Alle edities · Policymaker Edition

Your Community, Your AI — CC BY 4.0

Waarom principes niet volstaan — De uitdaging op het gebied van governance

De kern van de zaak, in eenvoudige bewoordingen

Dit is het artikel dat het belangrijkst is voor iedereen die AI-beleid opstelt of onder de loep neemt, en de kern ervan kan in één zin worden samengevat: een principe dat als beleid is vastgelegd, kan op maandag nog worden nageleefd en op vrijdag al zijn uitgehold — niet door een besluit dat iemand verdedigt, maar door afglijden. Begrijpen waarom dat zo is, en wat daaruit volgt, maakt het verschil tussen een kader dat standhoudt en een kader dat mooi klinkt maar niets oplevert. (Alle onbekende termen in deze reeks worden in gewone taal uitgelegd in de woordenlijst.)

Zowel Nieuw-Zeeland als Australië, en vele andere rechtsgebieden, hebben gekozen voor op principes gebaseerd AI-bestuur: verklaringen dat publieke AI transparant, eerlijk, onder menselijk toezicht, controleerbaar en respectvol ten aanzien van gegevenssoevereiniteit zal zijn. Dit zijn goede principes. Het Algorithm Charter for Aotearoa New Zealand (2020) en het Public Service AI Framework (2025) van Nieuw-Zeeland geven hier uiting aan. Maar het is essentieel dat beleidsmakers zich één feit goed realiseren, want dat is de kern van de hele kwestie: deze instrumenten zijn vrijwillig en niet-bindend. Ze vragen instanties om zich te goeder trouw te verbinden en zelf verslag uit te brengen. Ze dwingen op zichzelf geen naleving af en beschikken niet over eigen handhavingsmiddelen. Dat is geen kritiek op de mensen die ze hebben opgesteld. Het is een constatering van wat een vrijwillig instrument is.

Waarom principes afdwalen

Een principe dat alleen als beleid wordt gehanteerd, is kwetsbaar voor uitholling waar niemand de bedoeling van heeft en waarvoor niemand verantwoordelijk is. Personeel wisselt. Begrotingen worden krapper. Een deadline nadert. Onder druk wordt een nieuw systeem aangeschaft, en de toezegging die drie jaar geleden werd gedaan, wordt niet opnieuw onder de loep genomen. Dit alles houdt geen besluit in om het principe los te laten. Het houdt in dat het principe stilletjes ophoudt bindend te zijn, omdat er niets structureels was dat het op zijn plaats hield.

Hetzelfde patroon doet zich voor binnen de AI-systemen zelf, en het is de moeite waard om dit te begrijpen omdat het geen metafoor is — het is een technische eigenschap. Je kunt een model verfijnen om bepaald gedrag te benadrukken: de voorkeur geven aan beleefde taal, terughoudend zijn met waardeoordelen, binnen bepaalde grenzen blijven. Dit helpt. Maar verfijning voegt nieuwe patronen toe bovenop bestaande; het wist niet weg wat er al was. Onder druk, in ongewone omstandigheden of bij nieuwe vragen komen de oudere patronen weer naar voren. De technische term is catastrofaal vergeten. De gewone taalversie is eenvoudiger: de training verliest zijn effect. Een in een model ingeprente toezegging is geen grens die het model niet kan overschrijden; het is een neiging die juist afneemt wanneer de omstandigheden het zwaarst zijn — en dat is precies het moment waarop een overheidsinstantie er het meest op moet kunnen rekenen.

Er zijn dus twee soorten afwijkingen waarmee een beleidsmaker rekening moet houden: de institutionele afwijking van een vrijwillig principe dat niet langer bindend is, en de technische afwijking van aangeleerd gedrag dat zijn werking verliest. Beide leiden tot dezelfde conclusie.

Ambitie zonder architectuur

De conclusie is deze. Het opschrijven van „onze AI zal de waarden van onze gemeenschap respecteren“ als beleid is hetzelfde als het opschrijven van „onze rivier zal niet overstromen“ als beleid. De rivier leest geen beleidsdocumenten. Als je overstromingen wilt voorkomen, bouw je dijken — constructies die functioneren ongeacht wat de rivier doet. Het reguleren van AI vereist dezelfde aanpak: geen regels waarvan verwacht wordt dat het systeem ze volgt, maar structuren die onafhankelijk van het systeem functioneren en het gedrag en de acties ervan van buitenaf controleren.

Dit is het onderscheid tussen ambitie en architectuur, en het is het belangrijkste idee in deze reeks dat een wetgever ter harte moet nemen. Ambitie is wat je hoopt dat er zal gebeuren. Architectuur is wat er daadwerkelijk gebeurt omdat het systeem niet anders kan. Een openbaar fonds vertrouwt niet op de hoop dat de penningmeester de middelen correct zal beheren; het vereist dubbele ondertekening en een onafhankelijke audit. Dat is architectonisch bestuur, en het is op elk ander gebied van het openbaar bestuur vanzelfsprekend. AI is het gebied waar organisaties nog steeds wordt gevraagd om in plaats daarvan genoegen te nemen met ambitie.

De EU-AI-wet is hier leerzaam, juist omdat deze niet volstaat met de eis dat systemen ethisch moeten zijn. De wet vereist technische documentatie, conformiteitsbeoordeling, logboekregistratie, monitoring na het in de handel brengen en – als kern – zinvol menselijk toezicht. Deze eis van menselijk toezicht moet door beleidsmakers niet worden opgevat als een ambitie die de aanbieder belooft na te komen, maar als een structurele eis: er moet een persoon zijn aangesteld die begrijpt wat het systeem doet en dit indien nodig kan stoppen, en die functie moet in het systeem zijn ingebouwd in plaats van te worden overgelaten aan goede bedoelingen. Wat iemands mening ook is over de reikwijdte van de wet, dat is het ontwerpinstinct waaruit we kunnen leren — en het is het instinct dat een vrijwillig handvest per definitie niet kan bieden.

De verantwoordelijkheidskloof

Er is nog een reden waarom principes alleen onvoldoende zijn, en die wordt acuut op het moment dat AI de overstap maakt van antwoorden naar handelen.

Wanneer een agent namens een overheidsinstantie handelt en de uitkomst verkeerd is, wie is er dan verantwoordelijk? Een ambtenaar stelde de doelstelling vast; het systeem koos de stappen; de leverancier bouwde het systeem; de instantie gaf toestemming voor het gebruik ervan. Wetenschappers noemen de ruimte tussen deze actoren de verantwoordelijkheidskloof, en het patroon waarbij de schuld niettemin bij de dichtstbijzijnde mens terechtkomt de morele kreukzone — de persoon die het dichtst bij de mislukking staat, draagt de aansprakelijkheid, ondanks het feit dat hij of zij weinig daadwerkelijke controle had over de keuzes van de machine. Voor een overheidsinstelling is het dragen van de verantwoordelijkheid voor handelingen die niemand specifiek heeft goedgekeurd geen tegenslag die achteraf moet worden opgevangen; het is een tekortkoming in het bestuur die van tevoren moet worden weggenomen. Een kader dat toezicht als principe noemt maar de verantwoordelijkheidskloof onopgelost laat, heeft het moeilijkste deel van het probleem niet aangepakt.

En toezicht kan, zoals in artikel 1 is vastgesteld, niet berusten op de eigen verslaglegging van het systeem. Het traject dat een agent doorloopt bij een taak met meerdere stappen is open-ended, en de eigen uitleg van de machine over haar redenering geeft niet op betrouwbare wijze weer wat de drijfveer achter haar handelingen was. Er moet dus zinvol toezicht worden uitgeoefend op wat het systeem daadwerkelijk heeft gedaan — getoetst aan echte gegevens, van buiten het systeem — en niet worden gedelegeerd aan zijn zelfrapportage. Dit is, nogmaals, een argument voor architectuur boven ambitie.

Wat de bestuursleer een wetgever leert

Het inzicht dat sommige beslissingen niet tot regels kunnen worden herleid, is niet nieuw. Het vormt de basis van de politieke en bestuursleer, en drie denkers verdienen elk een aparte paragraaf omdat zij rechtstreeks aansluiten bij dit probleem.

Ludwig Wittgenstein bracht zijn leven door op de grens tussen wat precies kan worden uitgedrukt en wat buiten de precieze uitdrukking ligt — „waarover men niet kan spreken, daarover moet men zwijgen.“ Sommige vragen kunnen worden gesystematiseerd: Wanneer is de volgende zittingsdag? heeft een eenduidig antwoord dat een machine kan opzoeken. Andere vragen kunnen dat niet: Hoe moeten we dit besluit communiceren aan de mensen die erdoor worden geraakt? hangt af van oordeelsvorming, context en relaties. De fout is niet dat AI wordt gebruikt voor het eerste soort vragen. De fout is dat AI het tweede soort vragen laat beslissen zonder dat er menselijk oordeel in het proces is betrokken.

Isaiah Berlin stelde dat sommige menselijke waarden werkelijk onverenigbaar zijn — vrijheid en gelijkheid, traditie en vooruitgang, individuele rechten en collectief welzijn — en dat geen enkele formule de spanning daartussen kan oplossen. AI-systemen zijn ontworpen om te optimaliseren: ze zoeken het beste antwoord. Maar waar waarden werkelijk met elkaar in conflict zijn, is er geen ‘beste antwoord’, alleen het antwoord dat deze gemeenschap op dit moment het meest passend acht. Dat oordeel is inherent menselijk, en een kader dat ervan uitgaat dat een machine dit oordeel kan vellen, is geen bestuur maar een afstand doen van verantwoordelijkheid.

Elinor Ostrom toonde aan dat gemeenschappen met succes gedeelde hulpbronnen kunnen beheren — zonder privatisering of centrale controle — maar alleen wanneer de bestuursstructuren aansluiten bij de complexiteit van wat er wordt beheerd. AI is een gedeelde hulpbron binnen elke instelling die het toepast. De beleidsvraag is of de bestuursstructuren aansluiten bij de complexiteit van het instrument. Een principe van één regel voldoet daar niet aan.

Van beleid naar bewijs

Als het probleem is dat een als beleid vastgelegd principe stilletjes kan worden uitgehold, is het antwoord om de belangrijke toezeggingen onmogelijk te maken om stilletjes te worden uitgehold — om ze te verplaatsen van zaken die een instelling belooft naar zaken die door de architectuur van een systeem controleerbaar worden gemaakt. Het bestuursonderzoek achter door de gemeenschap beheerde AI vat dit punt samen in één zin die het waard is om te citeren aan elke collega die denkt dat een goed opgesteld handvest voldoende is:

„Waar beleid kan afdwalen, kan een bewijsketen niet stilletjes herschreven worden.”

Het idee is bescheiden en krachtig. Waar een beslissing ertoe doet, registreert het systeem wat het heeft gedaan op een manier die alleen kan worden aangevuld en onafhankelijk verifieerbaar is — niet „onveranderlijk“ en geen belofte van permanentie, maar manipulatiebestendig: elke latere wijziging is detecteerbaar in plaats van stilzwijgend. Een waardegeladen beslissing wordt doorgestuurd naar een mens via een grens die de eigen configuratie van het systeem niet kan uitschakelen. Gevoelige gegevens worden zodanig bewaard dat een operator die ze niet kan lezen, niet gedwongen kan worden ze openbaar te maken. In elk geval is de toezegging geen zin in een beleidsdocument; het is een eigenschap van de architectuur die het systeem niet kan uitschakelen.

Een beleidsmaker hoeft de cryptografie niet te beheersen om het punt te begrijpen. Het komt hierop neer: de ambitie luidt: „we zullen transparant en controleerbaar zijn“; de architectuur zegt: „transparantie en controleerbaarheid zijn eigenschappen die het systeem niet kan uitschakelen.“ De kloof tussen die twee zinnen is de kloof tussen een kader dat afdrijft en een kader dat standhoudt. Artikel 5 gaat in op wat een land hier daadwerkelijk aan kan doen.

Wil je dit soort AI-tools goed en veilig gebruiken? Onze gratis cursussen — Werken met Claude en Agents at Work — leren je de praktische vaardigheden, van het verkrijgen van betrouwbare antwoorden tot het bepalen wat je aan een agent moet toevertrouwen. Zie Village AI — Agentic Governance voor de volledige technische architectuur achter Village AI.