Ce qu'est l'IA (et ce qu'elle n'est pas)
Series: AI Governance for Community Leaders - Understanding Village AI pour les administrateurs, les conseillers et les membres du conseil d'administration (Article 1 de 5) Author: My Digital Sovereignty Ltd Date: Juin 2026 Licence: CC BY 4.0 International
AI Changed While You Were Deliberating (L'IA a changé pendant que vous délibériez)
Vous avez déjà entendu dire que l'intelligence artificielle allait transformer les services publics, la gouvernance des collectivités et le mode de fonctionnement des organisations. Vous avez peut-être aussi entendu dire qu'elle est exagérée ou qu'elle ne peut rien faire de vraiment nouveau. Dans les deux cas, il s'agit d'une erreur, et comprendre pourquoi permettra de prendre de meilleures décisions en matière de gouvernance.
Mais il y a un point préalable que tout conseil d'administration ou de surveillance devrait enregistrer : L'IA a évolué de manière significative, même au cours de la période pendant laquelle les organisations ont débattu de l'opportunité de l'adopter.
Il y a un an, lorsque la plupart des gens parlaient d'"IA", ils pensaient à un chatbot - un système que vous interrogiez et qui vous renvoyait du texte. Vous demandiez, il répondait. Aujourd'hui, le centre de gravité s'est déplacé. Les systèmes qui attirent le plus d'attention et d'investissements ne sont plus seulement des chatbots qui répondent. Ce sont des agents qui agissent - ils remplissent des formulaires, envoient des communications, naviguent et effectuent des transactions sur le web, exploitent d'autres logiciels et poursuivent des objectifs à plusieurs étapes avec une supervision limitée.
Cette évolution est la chose la plus importante à comprendre pour un organe de gouvernance, car elle modifie le profil de risque de l'adoption. Pour raisonner sur l'IA aujourd'hui, il faut séparer deux idées :
- Le moteur - le modèle sous-jacent, le composant qui produit le langage.
- L'agent - le moteur mis au travail, configuré de manière à pouvoir agir dans le monde au nom de l'organisation.
Le moteur est devenu plus performant. Mais le changement qui en découle pour tout organisme ayant un devoir de diligence est ce qui est maintenant construit autour du moteur. Nous prenons chaque élément l'un après l'autre.
Le moteur : Une machine qui prédit
Voici la description la plus claire de ce que fait le moteur : il prédit le mot qui doit suivre.
Lorsque quelqu'un tape une requête dans un chatbot, le système ne raisonne pas sur la requête comme un conseiller ou un administrateur raisonnerait sur un document du conseil d'administration. Il fait quelque chose de plus mécanique. On lui a montré des milliards de pages de texte - législation, rapports, correspondance, documents techniques, articles de presse, médias sociaux, littérature médicale - et, à partir de tout ce matériel, il a appris des schémas. Lorsque vous lui posez une question, il génère une réponse en prédisant, un mot à la fois, à quoi ressemble une réponse plausible en fonction de tout ce qu'il a traité précédemment.
C'est vraiment utile. Un système qui a absorbé les schémas de milliards de pages de texte peut aider à rédiger une correspondance, résumer de longs documents, répondre à des questions factuelles ou suggérer comment formuler une communication sensible. Il s'agit là de capacités réelles, qui peuvent réduire la charge administrative.
Mais au fond, le moteur fait de la recherche de motifs à une échelle extraordinaire. Ce simple fait explique à la fois son utilité considérable et la façon caractéristique dont il échoue - un thème récurrent dans cette série.
Le moteur peut-il raisonner ?
Il y a une question plus profonde que les chercheurs étudient activement, et la réponse directe est : nous ne le savons pas encore.
Lorsque les premiers systèmes d'IA produisaient des textes fluides, il était raisonnable de les décrire comme des outils sophistiqués de recherche de motifs et de s'en tenir là. Mais une nouvelle génération de moteurs - souvent appelés modèles de "raisonnement" ou de "pensée" - agit différemment. Plutôt que de répondre immédiatement, ils traitent un problème par étapes, en produisant une chaîne visible de raisonnements intermédiaires avant de s'engager dans une réponse, et en consacrant plus de temps aux problèmes plus difficiles. Les résultats peuvent être frappants : en 2025, les systèmes de raisonnement de plusieurs grands laboratoires ont résolu des problèmes de l'Olympiade internationale de mathématiques - l'un des concours de mathématiques les plus difficiles au monde - à un niveau équivalent à celui d'un médaillé d'or humain.
S'agit-il d'un raisonnement ou d'un appariement de modèles très sophistiqué qui ressemble à un raisonnement ?
La recherche est réellement incertaine et les chercheurs sérieux ne sont pas d'accord. Une étude influente de 2025 a soutenu que ces systèmes présentent une "illusion de pensée", s'effondrant face à certaines énigmes, ce qu'un véritable raisonneur ne ferait pas. Plusieurs réponses tout aussi sérieuses soutiennent le contraire. Le verdict actuel le plus prudent est que les modèles de raisonnement actuels ne sont ni de véritables raisonneurs ni de simples perroquets - ils représentent quelque chose de véritablement nouveau qui n'est pas encore totalement compris. Quiconque vous dit que l'IA peut ou ne peut pas raisonner de manière définitive exagère ce que les preuves soutiennent.
L'une des conclusions a une incidence directe sur la gouvernance, et elle est facilement interprétée de manière erronée. Lorsque ces systèmes affichent leur "raisonnement", cette chaîne visible ne reflète pas de manière fiable ce qui a réellement motivé la réponse. Les chercheurs ont constaté à plusieurs reprises que le raisonnement énoncé par un modèle peut omettre les véritables influences sur sa conclusion - non pas par malhonnêteté (le système n'a pas d'intention), mais parce que les mots affichés sont eux-mêmes un texte prédit, et non pas une lecture fidèle d'un processus interne. Conséquence pratique pour un organe de gouvernance : il n'est pas possible de s'acquitter d'un devoir de contrôle en se contentant de lire l'explication qu'une IA donne d'elle-même. La responsabilité exige de vérifier la production par rapport aux registres de l'organisation - et non de faire confiance à l' auto-rapport du système. Nous reviendrons sur ce point à l'article 3, qui concerne directement les attentes en matière de "droit à l'explication" dans le cadre du GDPR et de la loi européenne sur l'IA.
Ce que l'on peut dire avec certitude, c'est que la trajectoire est abrupte. Il y a quelques années, ces systèmes pouvaient à peine produire un paragraphe cohérent. Aujourd'hui, ils rédigent des essais, passent des examens professionnels, génèrent du code informatique et agissent de plus en plus sur le monde au lieu de se contenter de le décrire. Les capacités seront encore plus grandes d'ici quelques années.
"L'IA ne peut rien faire de nouveau" - Tout dépend de ce que vous entendez par "nouveau"
Les personnes qui rejettent l'IA en affirmant qu'elle ne peut rien créer d'original font une affirmation qui est à la fois étroitement vraie et largement trompeuse.
Un modèle linguistique ne peut pas être issu de l'expérience. Il n'a jamais participé à une consultation publique où les habitants étaient en colère. Il n'a jamais ressenti le poids d'une décision de financement qui affecte le bien-être d'une communauté. Il ne peut pas comprendre pourquoi la formulation précise d'une résolution du conseil municipal a de l'importance - il ne peut que reproduire des modèles qui, statistiquement, ressemblent à une compréhension. En ce sens, tout ce qu'il produit est une recombinaison du matériel absorbé pendant la formation.
Mais réfléchissez à la signification du terme "recombinaison" à cette échelle. Personne n'a lu tous les textes législatifs des collectivités locales, tous les rapports annuels des fonds communautaires, tous les articles universitaires sur la gouvernance participative et toutes les études d'impact de la réglementation de la dernière décennie. Lorsque l'IA établit un lien entre la théorie de la gouvernance polycentrique et la pratique du développement communautaire, ce lien peut être véritablement nouveau pour tout lecteur individuel, même si les deux idées existaient séparément. Les atomes ne sont pas nouveaux, mais les molécules le sont.
Ainsi, "l'IA ne peut rien faire de nouveau" est vrai au niveau de l'origine et faux au niveau de la synthèse. Ces deux aspects sont importants, et une gouvernance responsable de cette technologie exige de tenir compte de ces deux aspects.
De la réponse à l'action : L'agent
C'est le changement qui a le plus d'impact sur la gouvernance.
Pendant la majeure partie de l'ère des chatbots, le pire qu'une IA pouvait faire directement était de renvoyer une mauvaise réponse. Le mal ne se matérialisait que si une personne agissait en conséquence - envoyait une lettre trompeuse, s'appuyait sur un mauvais chiffre, transmettait un conseil erroné. Un humain s'interposait toujours entre la machine et les conséquences.
Un agent élimine cet humain de la boucle, par conception.
Un agent d'IA est un moteur enveloppé dans ce que les chercheurs appellent un "échafaudage" : une mémoire pour suivre une tâche, l'accès à un navigateur web, la capacité d'utiliser des logiciels et d'autres outils, et un objectif exprimé en langage clair. Grâce à cet échafaudage, le système poursuit l'objectif à travers de nombreuses étapes avec beaucoup moins de supervision : il cherche, décide, agit, vérifie et agit à nouveau. Un chatbot répond. Un agent agit.
Pour un conseil d'administration, c'est précisément là que l'évaluation des risques change. Lorsqu'un système agit de manière autonome, il y a moins de points où un humain peut intervenir ; certaines actions ne peuvent pas être annulées ; et lorsqu'un agent agit au nom de l'organisation et que le résultat est mauvais, la responsabilité devient vraiment difficile à attribuer - entre l'agent qui a fixé l'objectif, le fournisseur dont le système a choisi les étapes, et l'organisme qui a autorisé son utilisation. Les spécialistes décrivent le "déficit de responsabilité" et la "zone de froissement moral" qui en résultent, dans lesquels la responsabilité incombe à l'être humain le plus proche, bien qu'il n'ait eu que peu de contrôle réel. Cet aspect n'est pas accessoire à la réglementation : l'insistance de la loi européenne sur l'IA sur une surveillance humaine significative est, en fait, une exigence légale selon laquelle cette boucle ne peut être bouclée sans qu'une personne ne soit en mesure d'intervenir. Un organe de gouvernance qui évalue un système agentique évalue exactement cela - que le contrôle soit structurel ou simplement promis.
Le vrai problème : À qui appartiennent les schémas et qui tient les commandes ?
C'est ici que cela devient pratique pour votre organisation.
Lorsqu'un gros moteur d'IA est entraîné sur l'internet, il absorbe les préjugés, les hypothèses et les valeurs culturelles par défaut de l'internet. L'internet est très majoritairement anglophone, occidental, commercial et façonné par les valeurs de l'industrie technologique. Il ne s'agit pas d'une conspiration, mais simplement de ce qui se produit lorsqu'un système est formé à partir de données qui représentent de manière disproportionnée une culture et un ensemble de priorités.
Les conséquences sont subtiles mais importantes. Lorsqu'un habitant soumet une requête concernant un conflit de voisinage difficile, le système utilise par défaut le langage des droits individuels et des recours juridiques - parce que cela domine ses données de formation - plutôt que la médiation, l'obligation de la communauté ou la vision à long terme. Lorsqu'un agent municipal lui demande de rédiger une communication sur une question d'urbanisme délicate, le système utilise le langage de la gestion des parties prenantes de l'entreprise, parce que la correspondance commerciale dépasse largement la communication civique dans ce qu'il a appris.
Le système n'est pas hostile aux valeurs civiques. Il ne les connaît tout simplement pas. Il sait ce qui est statistiquement courant, et ce qui est statistiquement courant n'est pas ce qui convient le mieux à vos électeurs.
À l'ère du chatbot, ce parti pris a façonné le texte qu'un agent a examiné. À l'ère des agents, ce même biais façonne les actions prises au nom de l'organisation - communications envoyées, dossiers déposés, engagements pris - potentiellement avant qu'un agent ne les examine. La question de la gouvernance se divise donc désormais en deux parties : à qui appartient le système, et qui détient les contrôles lorsqu'il agit ?
L'importance de cette question pour les organes de gouvernance aujourd'hui
Personne ne sait avec certitude ce qui se passera si un système d'IA développe un jour quelque chose qui ressemble à ses propres intentions - des objectifs qui pourraient ne pas correspondre aux intérêts des communautés qu'il sert. Nous sommes probablement encore loin de ce seuil. Mais l'architecture adoptée aujourd'hui et les habitudes de gouvernance mises en place aujourd'hui détermineront si une organisation est prête ou si elle découvre trop tard qu'elle a cédé le contrôle sans s'en rendre compte.
Il ne s'agit pas d'une spéculation. Il s'agit d'une observation directe sur la préparation institutionnelle. Votre conseil a une constitution. Votre conseil d'administration a un règlement intérieur. Votre association fiduciaire a un document de référence. Ces documents existent non pas parce que chaque réunion dégénère en désordre, mais parce que les structures de gouvernance doivent être mises en place avant qu'elles ne soient nécessaires, et non pas après.
Le même principe s'applique à l'IA, et la loi européenne sur l'IA (règlement 2024/1689) reflète précisément cette logique : établir des cadres de gouvernance avant que la technologie ne dépasse les capacités réglementaires. L'arrivée des systèmes agentiques augmente les enjeux : une organisation qui adopte une IA qui agit, sans surveillance structurelle en place, peut se retrouver dans l'incapacité de rendre compte des décisions prises en son nom - une position inconfortable sur le plan fiduciaire et exposée sur le plan juridique.
Deux voies à suivre
Une organisation peut s'engager dans l'IA de deux manières.
**La première consiste à utiliser l'IA des grandes technologies - des systèmes tels que ChatGPT, Google Gemini ou Microsoft Copilot et, de plus en plus, les agents qui en découlent. Ces systèmes sont puissants, pratiques et souvent peu coûteux. Mais ils sont assortis de conditions. Vos données sont transférées sur leurs serveurs. Vos communications - et maintenant les actions de votre agent - passent par des systèmes que vous ne contrôlez pas. Le comportement de l'IA est régi par les politiques de l'entreprise, qui peuvent être modifiées sans votre accord. Et les modèles qu'elle utilise sont définis par ses données d'entraînement, sur lesquelles vous n'avez aucune influence. Dans le cadre du GDPR, cela soulève des questions sur le contrôle des données, la base légale du traitement et le droit à l'explication que chaque organe de gouvernance doit résoudre avant l'adoption - des questions qui se posent avec plus d'acuité, et non avec moins d'acuité, lorsque le système agit de manière autonome.
La deuxième voie consiste à utiliser une IA que votre organisation contrôle. Un système plus ciblé, formé à votre contenu, fonctionnant sur une infrastructure relevant de votre juridiction, régi par les règles établies par votre conseil d'administration. Un système qui sait faire la différence entre un compte rendu de conseil et un article de blog, parce que les archives de votre organisation le lui ont appris. Un système dont les réponses sont comparées à vos documents réels par des couches de vérification qui fonctionnent indépendamment de l'IA - et dont la capacité à agir est délibérément limitée, de sorte qu'un humain responsable devant vos électeurs soit toujours en mesure d'intervenir.
Voilà ce qu'est Village AI est. Il ne s'agit pas du système d'IA le plus puissant qui soit. Il est conçu pour rendre des comptes à votre communauté - à votre contenu, à vos valeurs et à votre cadre de gouvernance - et pour que l'autorité reste entre les mains des personnes qui la détiennent lorsque l'IA passe du stade de la réponse à celui de l'action.
L'article suivant explique en quoi Village AI est structurellement différente de l'IA des Big Tech, et pourquoi cette différence est plus importante que la puissance brute.
Ceci est l'article 1 sur 5 de la série "Gouvernance de l'IA pour les dirigeants communautaires". Pour l'architecture technique complète, visitez Village AI - Gouvernance agentique.
Suivant : Big Tech AI vs. Community-Governed AI - Why the Difference Matters