Waarom regels en training niet genoeg zijn - De bestuurlijke uitdaging
Serie: Naar Hapori, naar AI - Digitale soevereiniteit voor inheemse gemeenschappen (Artikel 3 van 5) Auteur: My Digital Sovereignty Ltd Datum: Juni 2026 Licentie: CC BY 4.0
De Mihi die er niet was
Voordat we de filosofie van het bestuur bespreken, beginnen we met een verhaal over een mihi.
Een kuia bereidt zich voor op een tangi. Ze is moe - het is een lange week geweest en er is veel te coördineren. Ze vraagt een AI-systeem om haar te helpen bij het opstellen van een mihi whakatau, een begroetingstoespraak die past bij de gelegenheid. Ze is specifiek: ze wil de taal van whakapapa, de erkenning van hen die zijn heengegaan, de verbinding tussen de levenden en de doden die de kern vormt van tangihanga.
De AI produceert een prachtig geschreven toespraak. Het is warm, professioneel en medelevend. Er wordt gesproken over "het vieren van een goed geleefd leven", "kracht vinden in herinneringen", "de helende reis die voor ons ligt" en "het eren van hun nalatenschap" Het leest goed. Het klinkt zorgzaam. En het is helemaal verkeerd.
De whanau hoeft een goed geleefd leven niet te vieren. Ze willen de whakapapa horen spreken - de lijnen van afkomst die de overledene verbinden met de levenden en met hen die voorgingen. Ze hebben geen helende reis nodig. Ze hebben de karanga, de tangi, de juiste volgorde van rituelen nodig die hun volk al generaties lang door de dood heen sleept. De kuia vroeg om tikanga, en de AI gaf haar westerse rouwbegeleiding - omdat haar trainingsgegevens duizend rouwgidsen van hulpverleningswebsites bevatten voor elke die weet wat een tangi is.
De AI weigerde de instructie van kuia niet. Hij zei niet "Ik ken uw traditie niet" Hij verving eenvoudig waar ze om vroeg door wat statistisch gezien vaker voorkwam in zijn trainingsgegevens. De vervanging was stil. Als de kuia vermoeider was dan normaal, of minder ervaren, of onder tijdsdruk werkte, had ze het misschien niet opgemerkt. De mihi zou zijn geleverd en de whanau zou troost hebben gekregen uit de verkeerde traditie - professioneel geformuleerd, oprecht bedoeld en cultureel leeg.
Je telefoon corrigeert woorden. Je ziet de rode onderstreping en je corrigeert het. AI corrigeert waarden. En er is geen onderstreping.
Wanneer patronen Tikanga overschrijven
De mihi is geen op zichzelf staand geval. Hetzelfde mechanisme werkt in elke AI conversatie.
Wanneer een whanau lid een AI-systeem om advies vraagt over een familieconflict, grijpt het systeem terug naar de taal van individuele therapie - assertiviteitstraining, grenzen stellen, zelfzorg - omdat dat de dominante trainingsgegevens zijn. Het grijpt niet naar de concepten van whanaungatanga, van utu (wederkerigheid en evenwicht), of het begrip dat het in een verwantschapssysteem bij het oplossen van een conflict niet gaat om individuele resultaten, maar om het herstellen van het evenwicht van het collectief.
Als een leider van een gemeenschap de AI vraagt om te helpen bij de voorbereiding van een belangrijke hui, wordt standaard het beheer van bedrijfsvergaderingen gebruikt - agenda's, actiepunten, betrokkenheid van belanghebbenden - omdat de correspondentie over bedrijfsvergaderingen veel groter is dan de correspondentie over inheems bestuur in de trainingsgegevens. Het begrijpt niet dat een hui geen vergadering is. Een hui heeft zijn eigen tikanga, zijn eigen protocollen voor wie wanneer spreekt, zijn eigen ritme dat doelen dient die een bedrijfsagenda niet kan bevatten.
Wanneer een gemeenschap de AI vraagt om te helpen bij het indienen van een aanvraag voor een vergunning, wordt standaard planningstaal gebruikt. Ze begrijpt het concept van kaitiakitanga niet - dat de relatie van de gemeenschap tot het land er niet een is van eigendom of economisch belang, maar van voogdijschap over generaties heen.
De AI staat niet vijandig tegenover inheemse kennis. Ze kent de inheemse kennis gewoon niet. Ze weet wat statistisch gezien gebruikelijk is en wat statistisch gezien gebruikelijk is, is overwegend westers. Voor inheemse gemeenschappen is dit geen technische tekortkoming. Het is de digitale voortzetting van een patroon dat begon met de kolonisatie: de vervanging van inheemse kennissystemen door westerse kaders, zo soepel uitgevoerd dat veel mensen het niet merken.
Dit is het bestuursprobleem. Geen kwaadwillendheid. Geen incompetentie. Structurele vooringenomenheid, die geruisloos opereert.
Wanneer de AI handelt, stijgt de inzet
Alles hierboven was waar toen AI alleen antwoordde. Zoals artikel 1 beschrijft, handelt de AI steeds vaker - en wanneer een stille vervanging van het westerse patroon voor tikanga wordt gekoppeld aan een actie in plaats van een zin, wordt het bestuursprobleem op drie specifieke manieren scherper.
Sommige acties kunnen niet ongedaan worden gemaakt. Een cultureel leeg ontwerp kan worden gecorrigeerd voordat het wordt gebruikt - er is een moment tussen de output van de AI en het gevolg. Een agent die verzendt, deelt, publiceert of indient verwijdert dat moment. De kuia in ons verhaal ving de lege mihi op omdat ze het als eerste las. Een agent die het namens haar had rondgestuurd naar de whanau zou haar dat moment niet hebben gegeven. En mātauranga, eenmaal gedeeld buiten de controle van de gemeenschap, kan niet worden teruggehaald - de schade is geen ontwerp dat moet worden hersteld, maar een breuk waarmee moet worden geleefd.
**Wanneer een agent namens jou handelt en de uitkomst is verkeerd, wie is er dan verantwoordelijk? Iemand stelde een doel in een zin; het systeem koos de stappen; een bedrijf bouwde het systeem. Onderzoekers noemen de kloof die hier ontstaat een "verantwoordelijkheidskloof" Voor een gemeenschap die collectief verantwoordelijk is voor haar taonga, is een actie die in haar naam wordt ondernomen en waar niemand toestemming voor heeft gegeven, geen fout - het is een fout zonder duidelijke auteur.
Je kunt niet volledig instemmen met wat je niet kunt voorzien. Echte instemming betekent begrijpen waar je mee instemt. Maar het pad van een agent door een taak die uit meerdere stappen bestaat, is open en - zoals artikel 1 opmerkt - zelfs het eigen verslag van de AI over zijn redenering geeft niet op betrouwbare wijze weer wat de drijfveer achter zijn handelingen was. Je kunt instemmen met een doel, maar je kunt niet vooraf zinvol instemmen met elke stap die een autonoom systeem zou kunnen nemen om dat doel te bereiken. Voor kennis die wordt beheerd door protocollen over wie wat mag delen, met wie en wanneer, is die kloof geen technische kwestie.
Dit alles pleit niet tegen het gebruik van AI die handelt. Het stelt dat de discipline die aan te raden was in het chatbot-tijdperk essentieel wordt in het agent-tijdperk: het gedrag van de AI moet gecontroleerd worden door iets buiten de AI, een persoon uit de gemeenschap moet in staat blijven om in te grijpen, en de consequente, onomkeerbare beslissingen moeten bij mensen blijven die de autoriteit hebben om ze te nemen. Dat is precies waar de rest van dit artikel over gaat.
Waarom meer regels het niet oplossen
Het instinct van de meeste organisaties, wanneer ze geconfronteerd worden met AI-risico's, is om beleidsregels op te stellen. Beleid voor acceptabel gebruik. AI-ethische richtlijnen. Servicevoorwaarden. Verantwoorde AI-raamwerken.
Deze documenten zijn niet nutteloos, maar ze hebben een fundamentele beperking: ze vertrouwen erop dat het AI-systeem ze volgt.
Een AI-systeem leest je beleidsdocument niet en besluit dan om zich eraan te houden. Het genereert antwoorden op basis van statistische patronen in zijn trainingsgegevens. Als die patronen in strijd zijn met uw beleid, winnen de patronen - niet omdat de AI rebels is, maar omdat het geen beleid begrijpt. Hij begrijpt patronen.
Je kunt een model verfijnen - de training aanpassen om bepaald gedrag te benadrukken. Dit helpt, maar lost het onderliggende probleem niet op. Fine-tuning voegt nieuwe patronen toe bovenop de bestaande. Onder druk, ongebruikelijke omstandigheden of nieuwe vragen komen de oude patronen weer bovendrijven. De technische term is "catastrofaal vergeten", maar de versie in gewone taal is eenvoudiger: training slijt.
Een beleid schrijven dat zegt "Onze AI zal de tikanga van onze gemeenschap respecteren" is als een beleid schrijven dat zegt "Onze rivier zal niet overstromen" De rivier leest geen beleid. Als je overstromingen wilt voorkomen, moet je stopbanken bouwen - structurele ingrepen die werken ongeacht wat de rivier van plan is.
AI-governance vereist dezelfde aanpak. Geen regels die de AI geacht wordt te volgen, maar structuren die onafhankelijk van de AI opereren en zijn gedrag van buitenaf controleren.
Wat Tikanga ons leert over bestuur
Het inzicht dat sommige beslissingen niet kunnen worden gereduceerd tot regels is niet nieuw. Het is oeroud en inheemse bestuurstradities begrijpen het al eeuwen.
Tikanga Maori is geen regelboek. Het is een levend systeem van protocollen, waarden en praktijken die het gedrag binnen een relationele context sturen. De juiste handeling in een bepaalde situatie hangt niet af van een geschreven regel, maar van de betrokken relaties, de context, het precedent en de mana van de aanwezige mensen. Een kaumatua die een oordeel velt op een hui past geen formule toe - ze oefent wijsheid uit die ze gedurende haar hele leven binnen een specifieke gemeenschap heeft vergaard.
Dit is precies het soort oordeel dat AI niet kan vellen. Een systeem dat getraind is op statistische patronen kan mana niet begrijpen, kan relaties niet afwegen, kan de tono (de roep, de aantrekkingskracht) van een situatie niet aanvoelen. Het kan informatie verwerken, maar het kan geen rangatiratanga uitoefenen - de zelfbepalende autoriteit die voortkomt uit het ingebed zijn in een gemeenschap met verantwoording aan die gemeenschap.
De filosoof Ludwig Wittgenstein besteedde zijn hele carrière aan het verkennen van de grens tussen wat precies gezegd kan worden en wat voorbij de precieze uitspraak ligt. Zijn conclusie - dat "waarover men niet kan spreken, daarover moet men zwijgen" - komt rechtstreeks overeen met het onderscheid tussen de vragen waarmee AI kan helpen en die waarmee het niet kan helpen. "Wanneer is de volgende hui?" heeft een duidelijk antwoord dat een AI kan opzoeken. "Hoe moeten we deze korero benaderen met de naburige hapu?" heeft te maken met oordelen, relaties en tikanga die zich verzetten tegen systematische behandeling.
Isaiah Berlin, de politieke filosoof, stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn - vrijheid en gelijkheid, traditie en vooruitgang, individueel geweten en gemeenschappelijke harmonie. Er bestaat geen formule die deze spanningen oplost. Ze vereisen een voortdurend menselijk oordeel, onderhandeling en het soort praktische wijsheid dat gemeenschappen in de loop van generaties ontwikkelen.
Inheemse bestuurstradities hebben dit inzicht al veel langer dan de westerse filosofie het heeft verwoord. Het concept kaitiakitanga bevat al de erkenning dat voogdij een voortdurend oordeel inhoudt, geen vaste regels. De praktijk van whakawhiti korero (uitwisseling van gesprekken) op hui belichaamt al het inzicht dat collectieve wijsheid voortkomt uit gestructureerde dialoog, niet uit optimalisatie.
Elk AI bestuurskader dat pretendeert deze oordelen te kunnen systematiseren, bestuurt niet - het koloniseert. Nogmaals.
Hoe Village AI structureel bestuurt
Village vertrouwt niet op het vertellen van het gedrag van de AI. Het bouwt bestuur in de architectuur in - structuren die onafhankelijk van de AI werken en niet door de AI kunnen worden overruled.
De grensbewaker verhindert dat de AI waardenbeslissingen neemt en zelfstandig acties onderneemt. Als een vraag te maken heeft met culturele protocollen, ethische oordelen of relationele context, of als een taak te maken heeft met handelen in naam van je gemeenschap - het delen van korero, het indienen van records, het verzenden in jouw naam - stopt het systeem en stuurt het door naar een mens - je moderator, je kaumatua, je runanga. De AI kan deze grens niet opheffen, omdat de grens buiten de controle van de AI valt. Dit is het structurele antwoord op het probleem "minder kansen om in te grijpen": de kans voor een kaitiaki om in te grijpen is ingebouwd, niet aan het toeval overgelaten.
Het instructiesysteem slaat de expliciete instructies van je gemeenschap op in een apart systeem dat de AI niet kan wijzigen. Als de AI een antwoord genereert, wordt dit gecontroleerd aan de hand van deze opgeslagen instructies. Als het antwoord in tegenspraak is met een instructie, heeft de instructie voorrang - standaard, ongeacht wat de trainingspatronen van de AI suggereren.
De kruisverwijzing validator controleert de voorgestelde reacties en acties van de AI aan de hand van de werkelijke gegevens van je gemeenschap. Het vraagt de AI niet of zijn antwoord correct is - dat zou het systeem vragen om zichzelf te verifiëren en zoals artikel 1 uitlegt, kan niet worden vertrouwd op de manier waarop een AI zijn eigen redenering weergeeft. Dus negeert de validator de zelfrapportage van de AI volledig. Het gebruikt wiskundige metingen, die op een fundamenteel andere manier werken dan de AI, om te bepalen of het antwoord is gebaseerd op de werkelijke inhoud van je gemeenschap. Het controleert het werk, niet de uitleg.
De contextdrukmonitor let op verslechterde werkomstandigheden - situaties waarin de AI onder druk staat, complexe verzoeken verwerkt of op nieuwe vragen stuit. Als het deze omstandigheden detecteert, verhoogt het de intensiteit van de verificatie. Hoe moeilijker de vraag, hoe nauwkeuriger het antwoord.
Dit zijn geen beleidsregels. Het zijn structuren. Ze werken of de AI het er wel of niet mee eens is, op dezelfde manier als een stuwdam werkt of de rivier het er wel of niet mee eens is.
Het verschil tussen aspiratie en architectuur
Veel organisaties publiceren AI-ethiekverklaringen. Village vertrouwt niet op ethiekverklaringen. Het vertrouwt op architecturale beperkingen die governance structureel afdwingen.
Het onderscheid is belangrijk omdat aspiratie is wat je hoopt dat er zal gebeuren. Architectuur is wat er werkelijk gebeurt. Je gemeenschap vertrouwt niet op de hoop dat er op de juiste manier met fondsen wordt omgegaan - er is goed financieel toezicht nodig, met verantwoording aan het collectief. Dat is architecturaal bestuur. Hetzelfde principe geldt voor AI.
Het Tractatus raamwerk - Gefundeerd in Te Tiriti
De besturingsarchitectuur achter Village AI wordt het Tractatus raamwerk genoemd. Het is de moeite waard om er drie dingen over te weten.
Het is open. Het hele raamwerk is gepubliceerd onder een EUPL-1.2 open-source licentie. Iedereen kan de code lezen, de regels inspecteren en controleren of de governance doet wat het beweert te doen. Dit is het tegenovergestelde van Big Tech AI-governance, waar de regels gepatenteerd zijn en de redenering verborgen blijft. Als Google of OpenAI je vertellen dat hun AI "in lijn is met menselijke waarden", kun je dat op geen enkele manier controleren. Met Tractatus kun je elke regel lezen.
Het is transparant. Elke bestuursbeslissing wordt bijgehouden. Als de grensbewaker de AI blokkeert bij het nemen van een waardenbeslissing, wordt die gebeurtenis vastgelegd. Als de kruisverwijzing-validator een discrepantie opmerkt, wordt dat vastgelegd. Je beheerders kunnen precies zien wat het beheersysteem deed en waarom. Er is geen verborgen laag waar beslissingen worden genomen zonder verantwoording af te leggen.
Het is gebaseerd op Te Tiriti o Waitangi. Het partnerschapsmodel van het Tractatus raamwerk is geen generiek raamwerk voor "betrokkenheid van belanghebbenden" dat geleend is van corporate governance. Het is expliciet gebaseerd op Te Tiriti principes - in het bijzonder de Artikel Twee garantie van tino rangatiratanga (volledige autoriteit) over taonga. In de context van AI-governance betekent dit dat gemeenschappen de volledige autoriteit behouden over hun kennis, hun gegevens en de regels die bepalen hoe AI met beide omgaat. Het kader verleent deze autoriteit niet - het erkent dat de autoriteit al bestaat en bouwt een architectuur om deze af te dwingen.
Deze basis in Te Tiriti is gepubliceerd in het open-source raamwerk op agenticgovernance.digital. Het is geen marketingclaim - het is een architectonische verplichting die iedereen kan inspecteren, bekritiseren en waaraan het platform verantwoording kan afleggen.
We erkennen dat het baseren van een technologisch raamwerk in Te Tiriti verplichtingen met zich meebrengt die verder gaan dan code. Of Village aan deze verplichtingen voldoet is een oordeel dat de Maori gemeenschappen moeten vellen, niet het platform.
In het volgende artikel zullen we kijken naar wat Village AI vandaag de dag in de praktijk doet - waar het je gemeenschap mee kan helpen, hoe vooroordelen worden aangepakt via het vocabulairesysteem en wat nog een werk in uitvoering is.
Dit is artikel 3 van 5 in de serie "To Hapori, To AI". Ga voor de volledige bestuursarchitectuur naar [Village AI over Agentic Governance] (https://agenticgovernance.digital/village-ai.html).
Vorige: Big Tech AI vs. de AI van je gemeenschap - Waarom het verschil ertoe doet Volgende: Wat draait er vandaag de dag op Village