Ce qu'apporte la souveraineté des données autochtones

2.1 Au-delà de la propriété et du consentement

La gouvernance des données d’entreprise traditionnelle s’articule autour d’un ensemble de questions bien connues : à qui appartiennent les données, qui peut y accéder, quelles sont les obligations de conformité applicables et comment les traiter efficacement à grande échelle ? Ce sont là des questions réelles et importantes. Mais elles partent du principe que la propriété et le consentement suffisent à établir la légitimité – c'est-à-dire qu'une fois le propriétaire identifié et le consentement obtenu, les données peuvent être utilisées comme bon lui semble. La souveraineté autochtone en matière de données rejette cette hypothèse, qu'elle juge incomplète.

Au contraire, elle soulève un ensemble plus large de questions. Il ne s’agit pas seulement de savoir qui peut accéder aux données, mais aussi qui a le pouvoir de définir ce qui constitue une utilisation légitime. Il ne s’agit pas seulement de savoir à qui appartiennent les données, mais aussi dans quel contexte elles s’inscrivent: les personnes, la communauté, le lieu et l’histoire qui leur donnent tout leur sens. Il ne s’agit pas seulement de savoir ce qui est autorisé, mais aussi quelles obligations découlent de la simple détention des données. Et surtout, comment les intérêts collectifs sont-ils protégés au fil du temps, au-delà du moment d’une transaction individuelle ? Dans cette optique, l’autorité peut incomber à une instance collective plutôt qu’à la personne qui, par hasard, exploite le système ou clique sur « J’accepte ».

Village AI applique directement cette distinction. L’entreprise oppose un modèle centralisé d’IA – régi par une constitution d’entreprise unique, optimisé pour l’échelle et proposant les mêmes paramètres par défaut à tout le monde – à une approche fédérée dans laquelle chaque communauté définit ses propres valeurs, contrôle ses propres données et exige que l’IA s’adapte à ces valeurs, et non l’inverse. Cela redéfinit l’IA, qui passe du statut d’assistant universel, neutre et identique pour tous, à celui d’acteur institutionnel doté d’une charte: un acteur qui incarne les valeurs de gouvernance de la communauté qu’il sert et qui doit en rendre compte.

2.2 Pourquoi cela s'applique-t-il à toutes les cartes ?

Ce serait une erreur de considérer que ces concepts ne s’appliquent qu’aux communautés autochtones. Le fond du propos est d’ordre général : la qualité de la gouvernance s’améliore dès lors que les archives et les systèmes sont conçus pour préserver l’autorité, le contexte, la provenance et la contestabilité, plutôt que de tout réduire à des données d’entreprise génériques et interchangeables. La gouvernance des données autochtones est précieuse pour tout conseil d’administration précisément parce qu’elle a dû rendre ces propriétés explicites et opérationnelles, là où les pratiques courantes ont pu les laisser implicites – et donc sans protection.

Réfléchissons à ce qu’implique cette « simplification ». Lorsqu’un enregistrement est réduit à un champ générique, la question de savoir qui détient l’autorité de contrôler son utilisation se résume à celle de savoir qui dispose des identifiants de connexion. Lorsque le contexte est supprimé, le sens qui dépendait de ce contexte devient irrécupérable, même si les données semblent intactes. Lorsque la traçabilité n’est pas préservée, un conseil d’administration ne peut plus distinguer par la suite une recommandation qu’il a approuvée de celle qu’il a simplement reçue. Et lorsque la contestabilité est éliminée – lorsqu’il n’y a pas de place dans le dossier pour la dissidence, les réserves ou une interprétation alternative –, le système transforme discrètement des jugements pluriels en une version unique et incontestée des événements. Aucun de ces coûts n’est propre à une culture particulière. Il s’agit de défaillances de gouvernance dont tout conseil d’administration peut être victime.