Ce qu'est l'IA (et ce qu'elle n'est pas)

Série: To Hapori, To AI - Digital Sovereignty for Indigenous Communities (Article 1 of 5) Author: My Digital Sovereignty Ltd Date: Juin 2026 Licence: CC BY 4.0 International

AI Changed While You Were Watching

Vous avez probablement entendu des gens dire que l'intelligence artificielle allait tout changer. Vous avez peut-être aussi entendu des gens dire que ce n'est qu'une mode, ou qu'elle ne peut rien faire de vraiment nouveau. Dans les deux cas, il s'agit d'une erreur, et le fait de comprendre pourquoi aidera votre communauté à prendre de meilleures décisions au sujet de cette technologie.

Mais il y a une autre chose qui mérite d'être soulignée en premier lieu : L'IA a évolué depuis le peu de temps que l'on en parle.

Il y a un an, lorsque la plupart des gens parlaient d'"IA", ils pensaient à un chatbot - une fenêtre dans laquelle vous tapiez une question et receviez une réponse en retour. Vous demandiez, il répondait. C'était toute la transaction. Aujourd'hui, le centre de gravité s'est déplacé. Les systèmes qui attirent le plus d'attention et d'investissements ne sont plus seulement des chatbots qui répondent. Ce sont des agents qui agissent - remplissent le formulaire, envoient le message, naviguent sur les sites web, soumettent les enregistrements, écrivent et exécutent le code.

Il s'agit là du changement le plus important à comprendre, et le reste de cet article s'appuie sur ce point. Pour comprendre l'IA aujourd'hui, il faut séparer deux idées :

• Le moteur - le modèle sous-jacent, la chose qui produit le langage.
• L'agent - le moteur mis au travail, câblé pour qu'il puisse agir dans le monde en votre nom.

Le moteur est de plus en plus performant. Mais le changement le plus important - et, pour les communautés indigènes, le plus grave - est ce que les gens construisent maintenant autour du moteur. Prenons-les l'un après l'autre.

Le moteur : Une machine qui prédit

Voici la description la plus claire de ce que fait le moteur : il prédit le mot qui doit suivre.

Lorsque vous tapez un message dans un chatbot, le système ne réfléchit pas à votre question comme vous ou votre kaumatua le feriez. Il fait quelque chose de beaucoup plus mécanique. On lui a montré des milliards de pages de texte - livres, sites web, conversations, documents juridiques, recettes, documents médicaux, discussions sur les médias sociaux - et, à partir de toutes ces lectures, il a appris des schémas. Lorsque vous lui posez une question, il génère une réponse en prédisant, un mot à la fois, ce que sera une réponse plausible en fonction de tout ce qu'il a vu auparavant.

C'est vraiment utile. Un système qui a absorbé les modèles de milliards de pages de texte peut vous aider à rédiger une lettre, à résumer un long document, à répondre à une question factuelle ou à suggérer la manière de formuler une annonce difficile. Il s'agit là de capacités réelles, qui permettent de gagner du temps.

Mais à la base, le moteur fait de la recherche de motifs à une échelle extraordinaire. Ce seul fait explique à la fois ce à quoi il est étonnamment bon et ce en quoi il se trompe discrètement - un point sur lequel cette série revient, car pour une communauté dont les connaissances sont sous-représentées dans ces données de formation, la façon dont il se trompe n'est pas aléatoire. Elle penche vers l'Ouest.

Le moteur peut-il raisonner ?

Il y a une question plus profonde que les chercheurs étudient activement, et la réponse est simple : nous ne le savons pas encore.

Lorsque les premiers systèmes d'IA produisaient des textes fluides, il était raisonnable de les décrire comme des systèmes sophistiqués de recherche de motifs et de s'en tenir là. Mais une nouvelle génération de moteurs - souvent appelés modèles de "raisonnement" ou de "pensée" - agit différemment. Au lieu de répondre immédiatement, ils traitent le problème par étapes, en produisant une chaîne visible de réflexions intermédiaires avant de s'engager dans une réponse. Face à des problèmes plus difficiles, il prend plus de temps. Les résultats peuvent être remarquables : en 2025, les systèmes de raisonnement de plusieurs grands laboratoires ont résolu des problèmes de l'Olympiade internationale de mathématiques - l'un des concours de mathématiques les plus difficiles au monde - à un niveau équivalent à celui d'un médaillé d'or humain.

S'agit-il d'un raisonnement ou d'un appariement de motifs très sophistiqué habillé pour ressembler à un raisonnement ?

La recherche est réellement incertaine, et des personnes sérieuses ne sont pas d'accord. Une étude influente de 2025 a soutenu que ces systèmes sont en partie une "illusion de pensée" - qu'ils s'effondrent face à certaines énigmes d'une manière qu'un véritable raisonneur n'aurait pas. Plusieurs réponses tout aussi sérieuses soutiennent le contraire. Le verdict actuel le plus prudent est que les modèles de raisonnement actuels ne sont ni de vrais raisonneurs ni de simples perroquets - ils représentent quelque chose de véritablement nouveau que nous ne comprenons pas encore totalement. Quiconque vous dit que l'IA peut définitivement raisonner ou ne peut définitivement pas raisonner exagère ce que les preuves soutiennent.

L'une des conclusions est importante pour votre communauté, et il est facile de la mal interpréter, alors lisez-la attentivement. Lorsque ces systèmes vous montrent leur "raisonnement", cette chaîne visible ne reflète pas de manière fiable ce qui a réellement conduit à la réponse. Les chercheurs ont constaté à plusieurs reprises que le raisonnement énoncé par un modèle peut laisser de côté les véritables influences sur sa conclusion - non pas parce que la machine est malhonnête au sens humain du terme (elle n'a aucune intention), mais parce que les mots qu'elle vous montre ne sont eux-mêmes qu'un texte prédit de plus, et non pas une véritable lecture d'un processus interne. Conséquence pratique : il n'est pas possible de demander des comptes à une IA simplement en lisant l'explication qu'elle donne d'elle-même. C'est l'une des raisons pour lesquelles la gouvernance contrôlée par la communauté - qui vérifie la sortie par rapport à vos propres dossiers plutôt que de faire confiance à l'auto-rapport de l'IA - est si importante. Nous y reviendrons à l'article 3.

Ce que nous pouvons dire, c'est que la trajectoire est abrupte. Il y a quelques années, ces systèmes pouvaient à peine aligner un paragraphe cohérent. Aujourd'hui, ils écrivent des essais, passent des examens professionnels, génèrent des codes informatiques fonctionnels et agissent de plus en plus sur le monde au lieu de se contenter de le décrire. Les prochaines années apporteront encore de plus grandes capacités.

"L'IA ne peut rien faire de nouveau" - Tout dépend de ce que vous entendez par "nouveau"

Les personnes qui rejettent l'IA en affirmant qu'elle ne peut rien créer d'original font une affirmation qui est à la fois étroitement vraie et largement trompeuse.

Un moteur ne peut pas naître de l'expérience. Il ne s'est jamais assis à une tangi. Il n'a jamais ressenti le poids de parler au nom d'une whanau. Il ne peut pas comprendre pourquoi la karanga est importante à la porte d'une marae - il peut seulement reproduire des modèles qui ressemblent statistiquement à une compréhension. En ce sens, tout ce qu'il produit est une recombinaison du matériel qu'il a absorbé au cours de sa formation.

Mais réfléchissez à ce que signifie réellement le terme "recombinaison" à cette échelle. Aucun être humain n'a lu tous les documents relatifs au règlement des traités, tous les rapports du site Waitangi Tribunal, tous les textes législatifs sur les droits des populations autochtones dans le Commonwealth, tous les articles universitaires sur la souveraineté des données autochtones et tous les bulletins d'information des communautés au cours des cent dernières années. Lorsque l'IA établit un lien entre la théorie de la gouvernance polycentrique et les structures décisionnelles traditionnelles de Maori, ce lien est véritablement nouveau pour chaque être humain, même si les deux idées ont existé séparément.

Ainsi, "l'IA ne peut rien faire de nouveau" est vrai au niveau de l'origine et faux au niveau de la synthèse. Les deux choses sont importantes, et un engagement sérieux avec cette technologie exige de tenir les deux.

De la réponse à l'action : L'agent

Passons maintenant au changement le plus important pour votre communauté.

Pendant la majeure partie de l'ère des chatbots, le pire qu'une IA pouvait faire directement était de vous donner une mauvaise réponse. Le mal n'arrivait que si une personne agissait en conséquence - envoyait les mauvais mots, faisait confiance à la mauvaise personne, transmettait le conseil erroné. Il y avait toujours une personne entre la machine et les conséquences.

Un agent supprime cette personne de la boucle, de par sa conception.

Un agent d'IA est un moteur enveloppé dans ce que les chercheurs appellent un "échafaudage" : une mémoire qui lui permet de suivre une tâche, l'accès à un navigateur web, la capacité d'utiliser des outils logiciels et d'autres programmes, et un objectif que vous lui donnez en langage clair. Grâce à cet échafaudage, le système peut poursuivre l'objectif en plusieurs étapes avec beaucoup moins de supervision : il peut chercher, décider, agir, vérifier le résultat et agir à nouveau. Un chatbot répond. Un agent agit.

C'est la raison pour laquelle l'IA semble soudainement différente, même si les moteurs sous-jacents n'ont pas changé du jour au lendemain. La nouveauté est en grande partie l'enveloppe. L'industrie sépare délibérément les deux : le moteur fournit la capacité brute, et le scaffolding transforme cette capacité en quelque chose qui fonctionne dans le monde. Une grande partie des progrès récents dans ce que l'IA peut faire - par opposition à ce qu'elle peut dire - provient d'un meilleur échafaudage, et non d'un nouveau type d'esprit.

Les agents bien connus de 2025 et 2026 - ceux qui naviguent sur le web pour vous, font fonctionner un ordinateur ou écrivent et exécutent des logiciels - sont presque tous construits par de grandes entreprises technologiques américaines, et nous verrons ce que cela signifie pour vos données dans le prochain article. Pour l'instant, retenez le concept : la question n'est plus seulement "qu'est-ce que l'IA va me dire ?" Il s'agit de savoir "ce que l'IA va faire, et si elle peut être arrêtée à temps en cas de problème"

Pour les communautés autochtones, cette question revêt une importance particulière. Lorsqu'un système agit seul, il y a moins de chances d'intervenir, et certaines actions ne peuvent être annulées. Les connaissances, une fois partagées, ne peuvent pas l'être à nouveau ; korero soumis à un système extérieur, ou taonga de mātauranga transmis à une plateforme qui l'exploite ensuite, ne peuvent pas être rappelés. Un agent qui partage, publie ou soumet tout seul - sans kaitiaki dans la boucle - n'est pas une commodité neutre. C'est la continuation numérique d'un schéma très ancien : la connaissance quitte le contrôle de la communauté sans que celle-ci ait son mot à dire. Et si quelque chose tourne mal, il est vraiment difficile de dire qui est responsable - la personne qui a fixé un objectif dans une phrase, ou l'entreprise dont le système a choisi les étapes. Cela ne signifie pas que les agents sont inutiles. Cela signifie que l'enjeu de savoir qui vous utilisez, et qui détient l'autorité sur ce qu'il fait, vient d'augmenter considérablement.

Le vrai problème : Quels modèles et quelles mains sur les commandes ?

C'est ici que les choses deviennent pratiques pour votre communauté.

Lorsqu'un gros moteur d'intelligence artificielle est entraîné sur l'internet, il absorbe les préjugés, les hypothèses et les valeurs culturelles par défaut de l'internet. L'internet est très majoritairement anglophone, occidental, commercial et façonné par les valeurs d'une poignée d'entreprises technologiques. Il ne s'agit pas d'une conspiration, mais simplement de ce qui se produit lorsque l'on forme un système à partir de données qui représentent de manière disproportionnée une culture et un ensemble de priorités.

Pour les communautés indigènes, ce biais n'est pas subtil. Il est structurel. L'internet surreprésente les connaissances écrites, occidentales et individualisées. Il sous-représente les traditions orales, la prise de décision collective, les systèmes de connaissance relationnels et les formes de compréhension que les peuples indigènes véhiculent depuis des générations. Lorsqu'une IA est entraînée sur ces données, elle ne manque pas seulement de connaissances indigènes, elle est structurellement désavantagée. Les modèles qu'elle a appris considèrent les cadres occidentaux comme la solution par défaut et tout le reste comme l'exception.

Lorsqu'un membre de whanau demande à une IA de le conseiller sur une situation familiale difficile, le système adopte par défaut le langage de la thérapie individuelle - formation à l'affirmation de soi, définition des limites, soins personnels - parce que c'est ce qui domine ses données d'apprentissage. Il ne fait pas appel à whanaungatanga (obligation de parenté), manaakitanga (soin des autres) ou à la vision à long terme qui découle du fait de savoir que ses obligations s'étendent sur plusieurs générations. Lorsqu'un chef de communauté lui demande de l'aider pour une communication délicate, il utilise par défaut le langage de l'entreprise, parce que la correspondance commerciale dépasse largement la correspondance de la communauté autochtone en termes d'apprentissage.

Le système n'est pas hostile à votre savoir. Il ne les connaît tout simplement pas. Il sait ce qui est statistiquement courant, et ce qui est statistiquement courant est très majoritairement occidental.

À l'ère du chatbot, ce biais a façonné les mots que vous avez lus - un mihi qui ressemblait à un conseil en matière de deuil. À l'ère de l'agent, ce même préjugé façonne les actions entreprises en votre nom. Un agent qui ne comprend pas tikanga ne se contentera pas de mal décrire votre monde ; il peut agir en votre nom, d'une manière qui enfreint le protocole, avant que quiconque ne puisse l'arrêter. Le vrai problème de l'IA est donc désormais double : à qui appartiennent les schémas qu'elle porte, et qui tient les commandes lorsqu'elle agit ?

Pourquoi c'est important maintenant

Personne ne sait avec certitude ce qui se passera si un système d'IA développe un jour quelque chose qui ressemble à ses propres intentions - des objectifs et des priorités qui pourraient ne pas correspondre aux nôtres. Nous sommes probablement encore loin de ce seuil. Mais l'architecture que nous construisons aujourd'hui, les habitudes de gouvernance que nous mettons en place aujourd'hui, détermineront si nous serons prêts lorsque ce moment arrivera ou si nous découvrirons trop tard que nous avons cédé le contrôle sans nous en rendre compte.

Ce n'est pas de la science-fiction. Il s'agit d'une observation directe sur la préparation des institutions. Votre communauté possède ses propres structures de gouvernance - ses propres tikanga pour la prise de décision, l'exercice de l'autorité et le partage des connaissances. Ces structures existent non pas parce que chaque site hui sombre dans le chaos, mais parce que les structures de gouvernance doivent être mises en place avant qu'on en ait besoin, et non après.

Le même principe s'applique à l'IA - et il s'applique avec d'autant plus d'urgence que l'IA ne se contente pas de conseiller, mais agit.

Deux voies pour aller de l'avant

Il y a deux façons pour une communauté de s'engager dans l'IA.

**La première consiste à utiliser l'IA des grandes entreprises - les chatbots et, de plus en plus, les agents créés par les plus grandes entreprises technologiques américaines. Ces outils sont puissants, pratiques et souvent gratuits ou bon marché. Mais ils sont assortis de conditions. Vos données sont transférées sur leurs serveurs. Vos conversations - et maintenant les actions de votre agent - passent par des systèmes que vous ne contrôlez pas. Le comportement de l'IA est régi par les politiques de l'entreprise, qui peuvent changer sans votre consentement. Et les modèles que l'IA utilise sont définis par ses données d'entraînement, sur lesquelles vous n'avez aucune influence. Pour les communautés autochtones qui ont passé des générations à lutter pour la souveraineté sur leurs propres connaissances, il ne s'agit pas d'un compromis neutre.

La deuxième voie consiste à utiliser une IA contrôlée par votre communauté. Un système plus ciblé, formé sur votre contenu, fonctionnant sur une infrastructure que vous contrôlez, régi par des règles établies par votre communauté. Un système qui sait faire la différence entre une annonce de la communauté et un billet de blog de l'entreprise, parce que votre communauté le lui a appris. Un système dont les réponses sont vérifiées par rapport à vos enregistrements réels par des observateurs indépendants qui opèrent séparément de l'IA elle-même - et dont la capacité à agir est délibérément limitée, de sorte qu'une personne de votre communauté est toujours en mesure d'intervenir avant que quoi que ce soit ne sorte de vos limites.

Voilà ce qu'est Village AI est. Il ne s'agit pas du système d'IA le plus puissant qui soit. Il est conçu pour être fidèle à votre communauté - à votre contenu, à vos valeurs et à votre gouvernance. Pour les communautés autochtones, cette fidélité inclut la capacité de définir leur propre vocabulaire, leurs propres limites de gouvernance et leurs propres règles de partage des connaissances - et de garder l'autorité sur ce qu'une IA fait en leur nom.

Le prochain article de cette série explique en quoi Village AI le prochain article de cette série explique en quoi l'IA est structurellement différente de l'IA des grandes entreprises et pourquoi cette différence est importante, en particulier pour les communautés dont les systèmes de connaissances ont déjà survécu à une vague de colonisation et ne devraient pas avoir à en survivre une autre.

Ceci est l'article 1 sur 5 de la série "To Hapori, To AI". Pour l'architecture technique complète, visitez Village AI - Gouvernance agentique.

Suivant : L'IA des grandes entreprises et l'IA de votre communauté - Pourquoi la différence est importante