L'IA des grandes entreprises et l'IA gérée par les communautés : pourquoi la différence est-elle importante ?

Série: Gouvernance de l'IA pour les dirigeants de collectivités - Comprendre la gouvernance de l'IA Village AI pour les administrateurs, les conseillers et les membres du conseil d'administration (article 2 sur 5) Author: My Digital Sovereignty Ltd Date: Juin 2026 Licence: CC BY 4.0 International

Où l'IA des grandes entreprises technologiques apprend ses bonnes manières

Imaginez ce qui se passe lorsqu'un système est formé exclusivement sur l'internet ouvert - documents marketing, échanges sur les médias sociaux et entrées d'encyclopédies. Le système serait articulé, largement informé dans un certain sens, et capable de produire des textes fluides sur presque tous les sujets. Mais il aurait une vision particulière du monde - commercialement façonnée, consciente de la controverse, confiante dans le ton indépendamment de la profondeur. Il saurait comment paraître autoritaire sans être nécessairement solide.

En pratique, c'est ainsi que sont formés les systèmes d'IA des grandes entreprises technologiques.

ChatGPT, Google Gemini et leurs homologues sont formés à partir d'énormes quantités de texte extraites d'Internet. Des milliards de pages. Le résultat est un système qui peut discuter de presque tout, mais dont les valeurs par défaut, les hypothèses et les instincts sont façonnés par ce que l'internet surreprésente.

L'internet surreprésente :

• Le contenu en langue anglaise (et à l'intérieur de l'anglais, l'anglais américain)
• Le langage commercial et marketing
• Le cadrage individualiste ("qu'est-ce que vous y gagnez")
• Langage thérapeutique laïque pour les questions émotionnelles et éthiques
• Discours technique et professionnel des entreprises
• Contenu des vingt dernières années, avec une profondeur historique limitée

L'internet est sous-représenté :

• Langage de la gouvernance civique et municipale
• Les traditions de prise de décision au niveau communal
• Cadres de responsabilité publique
• La pratique de la démocratie délibérative
• La réalité opérationnelle des petites organisations communautaires enracinées
• Les archives, les procès-verbaux et les décisions de votre organisation

Lorsqu'un électeur pose une question sur une décision du conseil municipal et qu'une IA Big Tech l'aide à rédiger sa réponse, elle utilise le langage de la communication d'entreprise - non pas parce qu'elle l'a jugé approprié, mais parce que c'est ce qui domine dans ses données d'apprentissage. Elle ne s'appuie pas sur les conventions de la responsabilité publique, le langage du devoir civique ou le ton mesuré propre à un organe qui répond à sa communauté, parce que ces modèles sont statistiquement rares dans les données à partir desquelles elle a appris.

Il ne s'agit pas d'un défaut qui peut être corrigé par une meilleure incitation. Il s'agit d'un problème structurel. Le caractère du système est déterminé par sa formation, et sa formation était l'internet.

Ce que l'expression "formé localement" signifie réellement

Village AI fonctionne différemment, et la différence ne réside pas dans le fait qu'elle est plus petite ou moins performante. La différence réside dans l'endroit où l'IA apprend ses modèles.

A Village AI pour votre organisation est formée à partir de trois couches de contenu :

La couche de la plateforme. Il s'agit de la base - comment la plateforme Village fonctionne, quelles sont les fonctionnalités disponibles, comment naviguer dans le système. Chaque site Village partage cette couche. Cela signifie qu'un nouveau membre de votre organisation peut s'orienter, comprendre comment accéder à des documents ou participer à une réunion vidéo, sans avoir besoin d'apprendre ces bases à partir de zéro.

**La couche organisationnelle : c'est ce qui fait de votre site Village le vôtre. L'IA apprend à partir du contenu créé par votre organisation : procès-verbaux du conseil d'administration, annonces, comptes rendus d'événements, documents de politique générale, rapports publiés. Lorsqu'un électeur demande "Qu'a décidé le conseil municipal au sujet du centre communautaire au cours du dernier trimestre ?", l'IA peut répondre à partir des dossiers de votre organisation, et non d'une supposition basée sur ce dont les conseils discutent généralement.

**Aucun contenu n'entre dans la formation de l'IA sans autorisation explicite. Un membre qui contribue au contenu peut choisir si cette contribution est incluse dans la base de connaissances de l'IA. Les contenus marqués comme restreints restent restreints - structurellement, et pas seulement par politique. L'IA ne peut pas accéder à ce qui ne lui a jamais été donné. Dans le cadre du GDPR, cette distinction entre restriction structurelle et restriction fondée sur une politique est importante : les contrôles structurels sont manifestement applicables, tandis que les contrôles fondés sur une politique dépendent du respect des règles.

Le résultat est un système qui connaît votre organisation - et non l'approximation d'Internet de ce à quoi une organisation comme la vôtre pourrait ressembler. Lorsqu'il aide à rédiger une communication à l'intention des parties prenantes, il s'appuie sur les modèles de vos communications précédentes, et non sur des modèles de bulletins d'information d'entreprise. Lorsqu'il répond à une question sur vos décisions, il le fait à partir de vos dossiers, et non d'une moyenne statistique.

Qui détient les clés ?

Jusqu'à présent, le contraste a porté sur la question de savoir "quels modèles" l'IA transporte. Mais comme l'indique l'article 1, l'IA ne se contente pas de répondre, elle agit. Dès lors qu'un système peut agir au nom de l'organisation, une deuxième distinction devient aussi importante que la première : qui détient les clés* ? qui détient les clés.

Lorsqu'un agent Big Tech exécute une tâche - remplit un formulaire, émet une communication, enregistre un dossier, effectue une transaction en ligne - il a reçu les clés : l'accès aux données de l'organisation, parfois à ses comptes et à ses systèmes, et l'autorité d'agir en son nom. Ces actions se déroulent sur l'infrastructure du fournisseur, selon les règles de ce dernier, les étapes étant choisies par défaut par le fournisseur. S'il agit mal, l'organisation peut ne l'apprendre qu'après coup, parce qu'un agent autonome offre moins de points d'intervention. En outre, il est réellement difficile de déterminer les responsabilités - l'agent a fixé un objectif ; le système du fournisseur a choisi les actions. Pour un organisme responsable devant les électeurs et les régulateurs, il s'agit là d'un risque de gouvernance important, et non d'une commodité.

Village AI le système de gestion des ressources humaines repose sur le principe inverse. Lorsqu'il agit, il le fait à l'intérieur des limites de l'organisation, sur une infrastructure relevant de votre juridiction, selon des règles fixées par votre conseil d'administration - et, surtout, son champ d'action est délibérément limité de manière à ce qu'un humain responsable soit toujours en mesure d'intervenir. Il rédigera, suggérera, organisera et triera ; il n'émettra pas, n'engagera pas ou ne réalisera pas de transactions au nom de l'organisation de manière autonome sans qu'une personne soit dans la boucle. Les clés restent la propriété de l'organisation. L'article 3 explique comment cela est mis en œuvre ; l'article 4 précise ce qui agit en votre nom aujourd'hui.

Pour l'instant, à l'ère des chatbots, la question de la gouvernance était la suivante : "De quels modèles notre IA est-elle porteuse ?" À l'ère des agents, le conseil d'administration doit également se demander "qui détient les commandes lorsqu'il agit - et cette surveillance est-elle structurelle ou simplement promise ?"

Guardian Agents: La couche de vérification

Même une IA formée localement peut commettre des erreurs. Elle peut mal attribuer un détail, confondre deux décisions ou générer une réponse qui semble plausible, mais qui n'est pas fondée sur vos dossiers réels. C'est la nature même de la technologie : elle prédit un texte plausible, et plausible n'est pas synonyme d'exact.

C'est là que les Guardian Agents intervient.

Guardian Agents l'IA est composée de quatre couches de vérification indépendantes qui contrôlent chaque réponse de l'IA avant qu'elle ne parvienne au membre. Il ne s'agit pas d'une IA supplémentaire, mais de systèmes de mesure mathématiques structurellement distincts de l'IA qu'ils supervisent.

Voici ce qu'ils font, en termes accessibles :

Le premier gardien prend la réponse de l'IA et mesure à quel point elle correspond au contenu réel des dossiers de votre organisation. Il ne s'agit pas de savoir si la réponse semble correcte, mais si elle est mathématiquement similaire aux documents réels. Si l'IA déclare : "Le conseil d'administration a décidé d'allouer des fonds à l'aire de jeux en septembre", le tuteur vérifie si les procès-verbaux de votre conseil d'administration contiennent effectivement une telle résolution.

Le deuxième tuteur décompose la réponse en affirmations individuelles et vérifie chacune d'entre elles séparément. Une réponse d'IA peut contenir trois affirmations - deux exactes et une fabriquée. Le deuxième gardien identifie la fabrication même si la réponse globale semble convaincante.

Le troisième gardien surveille les schémas inhabituels au fil du temps : changements dans le comportement de l'IA, erreurs répétées, résultats qui s'approchent de limites définies. Il surveille la santé du système, et pas seulement les réponses individuelles.

Le quatrième gardien tire des enseignements du retour d'information de votre communauté. Lorsqu'un membre signale qu'une réponse de l'IA n'est pas utile (une simple interaction suffit), le système examine ce qui n'a pas fonctionné, en détermine la cause profonde et procède à des ajustements. Les modérateurs peuvent examiner et affiner ces corrections, mais l'apprentissage commence avec les membres ordinaires. Au fil du temps, l'IA s'aligne davantage sur les connaissances réelles de votre organisation, et non moins.

Chaque réponse de l'IA dans Village comporte un indicateur de confiance qui indique au membre à quel point la réponse est fondée. Un niveau de confiance élevé signifie que le tuteur a trouvé des correspondances solides dans vos dossiers. Un niveau de confiance faible signifie que la réponse est plus spéculative. Les membres peuvent remonter à la source de toute affirmation de l'IA, c'est-à-dire au document, à la minute ou à l'enregistrement spécifique qui l'étaye.

Cette fonction n'est pas offerte par l'IA des grandes entreprises, car l'IA des grandes entreprises n'est pas fondée sur vos dossiers. Elle est basée sur l'internet et il n'existe aucun moyen pratique de vérifier des milliards de pages de données d'entraînement par rapport à une seule réponse.

La dimension de conformité

Pour les organes de gouvernance, la différence entre l'IA des Big Tech et l'IA gérée par la communauté a des implications réglementaires directes.

**En vertu du GDPR, le responsable du traitement des données est responsable de la manière dont les données à caractère personnel sont traitées. Lorsque votre organisation utilise un système d'IA Big Tech et que des données constitutives circulent sur les serveurs de ce fournisseur, des questions de contrôle, de contrôle conjoint et d'accords de traitement des données adéquats se posent. Village AI l'IA Big Tech traite les données au sein de l'infrastructure que votre organisation contrôle, sans que les données ne circulent vers des fournisseurs d'IA tiers.

Le droit à l'explication L'article 22 du GDPR et les considérants de la loi européenne sur l'IA prévoient que les personnes concernées par une prise de décision automatisée peuvent recevoir des informations significatives sur la logique impliquée. Les systèmes d'IA des Big Tech sont propriétaires - le raisonnement qui sous-tend leurs résultats n'est pas disponible pour inspection. Village AIle cadre de gouvernance de la Commission européenne, Tractatus, est ouvert et vérifiable. Chaque décision de gouvernance est enregistrée et peut faire l'objet d'un examen.

**Pour les organisations soumises à des exigences nationales en matière de souveraineté des données, la localisation du traitement des données est importante. Les systèmes Big Tech AI traitent généralement les données dans des juridictions déterminées par le fournisseur. Village L'infrastructure peut être spécifiée pour résider dans une juridiction particulière - dans le déploiement actuel, l'Union européenne.

**La loi européenne sur l'IA classe les systèmes d'IA par niveau de risque. L'IA utilisée dans l'administration publique ou les décisions affectant l'accès des individus aux services essentiels peuvent être classées à un niveau de risque plus élevé. L'utilisation d'un système dont la gouvernance est transparente, vérifiable et sous le contrôle de l'organisation constitue une position réglementaire matériellement différente de l'utilisation d'un système tiers opaque.

Il ne s'agit pas là de préoccupations théoriques. Ce sont les questions pratiques qu'un administrateur, un conseiller ou un membre du conseil d'administration responsable doit se poser avant toute décision d'adoption de l'IA.

Le compromis

Village AI n'est pas aussi puissante que ChatGPT ou Gemini. Il ne peut pas écrire de la poésie, générer des images photoréalistes ou tenir une vaste conversation sur la physique théorique. Il s'agit d'un système plus petit dont l'objectif est plus ciblé.

Ce qu'il offre en revanche, c'est une responsabilité vis-à-vis de votre communauté - son contenu, ses valeurs, son cadre de gouvernance - combinée à une vérification mathématique que ses réponses sont fondées sur vos enregistrements réels, et non sur les modèles statistiques de l'internet.

Pour une organisation qui a besoin d'aide pour rédiger des communications, répondre aux questions de ses administrés sur les activités de la communauté, résumer les documents du conseil d'administration ou coordonner les informations sur les événements, il ne s'agit pas d'une limitation. Il s'agit de l'outil approprié à l'objectif poursuivi. Et lorsque cet outil agit au lieu de se contenter de répondre, il le fait en conservant les clés et la responsabilité de l'organisation.

La question n'est pas de savoir quelle IA est la plus puissante La question est : "Quelle est l'IA dont votre organisation peut être responsable - et dont elle peut garder le contrôle lorsqu'elle agit ?"

Ceci est l'article 2 sur 5 de la série "Gouvernance de l'IA pour les dirigeants communautaires". Pour l'architecture Guardian Agents l'architecture complète, visitez [Village AI sur la gouvernance agentique] (https://agenticgovernance.digital/village-ai.html).

Précédent : Ce qu'est réellement l'IA (et ce qu'elle n'est pas) Suivant : Pourquoi les règles et la formation ne suffisent pas - Le défi de la gouvernance