Agentisch bestuur en de grenzen van automatisering
Naarmate AI-agenten zich steeds meer verplaatsen van hulpmiddelen voor het opstellen van documenten naar bestuursprocessen, verandert de vraag van de raad van bestuur. Het gaat niet langer alleen om "Is de output wel goed?" maar "Zorgt de systeemarchitectuur er structureel voor dat menselijke instructies, rolgrenzen en waardeoordelen worden nageleefd?" Deze module benadert AI-risico’s vanuit het perspectief van de bestuursarchitectuur: waar toezicht in het kritieke pad is ondergebracht, welke gegevens moeten worden bewaard en welke beslissingen bij mensen moeten blijven.
6.1 Waarom training alleen niet voldoende is
AgenticGovernance.digital stelt dat het beheer van AI moet worden architectonisch en constructief, en niet louter ambitieus of beleidsgestuurd. Een schriftelijk AI-beleid waarin staat dat „de agent menselijke instructies zal respecteren” is slechts zo sterk als de architectuur die dit afdwingt. Trainingspatronen — de statistische aannames die een model verwerft — kunnen expliciete menselijke instructies terzijde schuiven. Het zogenaamde „27027-incident“ is het schoolvoorbeeld hiervan: modelaannames die de intentie van de gebruiker overstemmen, waarbij de trainingsaannames van het model probeerden een expliciete instructie terzijde te schuiven — wat door de CrossReferenceValidator werd opgemerkt en geblokkeerd vóór uitvoering. Die faalmodus blijft niet beperkt tot code; hij vertaalt zich naar culturele, ethische en bestuurlijke contexten, overal waar de aangeleerde neiging van een agent stilletjes zwaarder kan wegen dan een uitgesproken instructie.
De les voor raden van bestuur is duidelijk. Het risico van AI bestaat niet alleen uit foutieve resultaten die een controleur kan opmerken — het gaat erom of het systeem dwingt structureel af instructies voor mensen, rolgrenzen en het omgaan met waardenconflicten. Het bestuur moet een centrale plaats innemen op het kritieke pad van de handeling van de makelaar, en niet daarbuiten, zoals bij een beoordeling achteraf of een streefbepaling in een voorlopige polis.
Belangrijkste leerpunten
- Trainingsexpectaties kunnen expliciete instructies van mensen terzijde schuiven — competentie is geen garantie voor naleving.
- Deze tekortkoming reikt verder dan de code zelf en strekt zich uit tot culturele, ethische en bestuurlijke contexten.
- Governance moet in het kritieke pad worden geïntegreerd, en mag niet achteraf als beleid of evaluatie worden toegevoegd.
- Autonomie zonder controleerbaar toezicht is een bestuursschuld die de raad van bestuur uiteindelijk zal moeten aflossen.
Aanvullende literatuur
- Tractatus-kader voor AI-veiligheid — het architectonische argument dat AI-veiligheid structureel moet zijn in plaats van louter een streefdoel.
- Sovereign-Record-architectuur (v4, mei 2026) — hoe gegevens met uitgebreide herkomstinformatie en die kunnen worden gecontroleerd, de basis vormen voor AI-ondersteund bestuur.
- Village AI — de agentische bestuursdiensten zoals deze worden toegepast op een concreet bestuurskader.
- Op taonga gericht sturingsbestuur voor polycentrische AI (PDF) — op waarden gebaseerde sturing en pluralistische beraadslaging onder collectief gezag.
Discussieonderwerpen
- In welke situatie zou de aangeleerde neiging van een AI-tool het meest aannemelijk een expliciete instructie in uw governance-workflow terzijde schuiven?
- Welke van uw AI-controles zijn van ambitionele aard (beleidsbepalingen) en welke zijn van architectonische aard (afgedwongen in het kritieke pad)?
- Als er in uw organisatie een ‘27027-achtige’ omzeiling zou plaatsvinden, zou u dat dan überhaupt opmerken — en hoe?
6.2 Zes bestuursdiensten als controlemodel voor de raad van bestuur
In plaats van een raad van bestuur te vragen erop te vertrouwen dat een agent zich correct gedraagt, verdeelt de architecturale aanpak het bestuur over afzonderlijke diensten, die elk één aspect van de controle handhaven. AgenticGovernance.digital noemt er zes: de BoundaryEnforcer (bepaalt de grenzen van de rol en de bevoegdheden die de agent niet mag overschrijden), de InstructionPersistenceClassifier (bepaalt of een menselijke instructie blijvend of van voorbijgaande aard is, zodat deze niet stilletjes in de vergetelheid raakt onder latere druk), de CrossReferenceValidator (controleert beweringen en acties aan de hand van gezaghebbende bronnen in plaats van op basis van het betrouwbaarheidsniveau van het model), de ContextPressureMonitor (let op de omstandigheden waaronder modellen afwijken van de instructies), de MetacognitiveVerifier (zorgt ervoor dat het systeem zijn eigen redenering controleert alvorens actie te ondernemen), en de PluralisticDeliberationOrchestrator (structuren die daadwerkelijk ter discussie staan, en waardegeladen beslissingen vanuit meerdere legitieme standpunten, in plaats van deze terug te brengen tot één antwoord).
Besturen hoeven de uitvoering niet onder de knie te hebben. De meerwaarde zit hem in het beschouwen van deze zaken als een controlemodel dat een duidelijk onderscheid maakt tussen drie zaken die gemakkelijk door elkaar kunnen worden gehaald: machinehandelingen, menselijke instructies en waardeoordelen. Het eerste kan worden geautomatiseerd; het tweede moet blijven bestaan; het derde moet bij de mensen blijven.
Belangrijkste leerpunten
- Het beheer is verdeeld over verschillende diensten, die elk één controledimensie handhaven — het is dus niet geconcentreerd in één enkele aanname van het type „vertrouw op de agent“.
- Het model maakt een onderscheid tussen machinehandelingen (automatiseerbaar), menselijke instructies (moeten blijven bestaan) en waardeoordelen (moeten door mensen worden gevormd).
- Medewerkers kun je het beste beschouwen als bekwame maar feilbare juniorcollega’s, en niet als onbetwistbare autoriteiten.
Discussieonderwerpen
- Van de zes diensten: bij welke is de controle het zwakst in uw huidige AI-gebruik?
- Welke grenzen hebben te maken met technisch vertrouwen, en welke met legitimiteit en gezag?
- Op welke punten in uw besluitvorming wordt een „enkel antwoord“ ten onrechte in de plaats gesteld van een echte pluralistische afweging?
6.3 Verslagen van beraadslagingen in AI-ondersteund bestuur
Zodra AI wordt geïntegreerd in bestuursprocessen, moet het dossier meer bevatten dan alleen het uiteindelijke besluit. Het moet ook de aanwijzingen die het werk van de agent hebben bepaald, de overschrijvingen wanneer iemand het heeft tegengehouden, de goedkeuringen waarin toestemming werd gegeven voor een actie, de uitzonderingen toegekend, en de controlepunten waarbij iemand een beslissing moest nemen. Zonder deze gegevens kan een bestuur aantonen wat werd wel besloten, maar niet hoe het menselijk gezag de machine daadwerkelijk aanstuurde — en dat is nu juist wat bij een audit, onderzoek of geschil aan de orde zal komen.
Hier wordt Village voorgesteld als een bestuursstructuur: een plek waar beleidsgerichte, met herkomstgegevens verrijkte en controleerbare verslagen van AI-ondersteunde besluitvorming worden bewaard. Het gaat er niet om agenten omwille van het vertragen zelf te vertragen, maar om hun toezicht controleerbaar te maken — zodat autonomie gepaard gaat met een verantwoording waarin vastligt op welke momenten mensen de controle behielden.
Belangrijkste leerpunten
- Het verslag moet niet alleen de uiteindelijke beslissing bevatten, maar ook de aanwijzingen, afwijkingen, goedkeuringen, uitzonderingen en toezichtpunten.
- Menselijke goedkeuring van wijzigingen in waarden en bestuursvormen staat niet ter discussie; deze kan niet aan een agent worden gedelegeerd.
- Een soeverein bestuursplatform bevat beleidsgerichte, met herkomstgegevens verrijkte en controleerbare gegevens, zodat toezicht controleerbaar is en niet zomaar als vanzelfsprekend wordt beschouwd.
Discussieonderwerpen
- Welke door AI ondersteunde beslissingen in uw organisatie zouden onmogelijk te reconstrueren zijn omdat de instructies en handmatige ingrepen nooit zijn vastgelegd?
- Wat zou er nodig zijn om achteraf aan te tonen dat een medewerker een waardegeladen wijziging heeft goedgekeurd?
- Waar loopt de autonomie momenteel verder uit dan het kader dat er toezicht op zou moeten houden?
Casus-simulatie · Grensmatrix voor ‘human-in-the-loop’
Voor elke AI-actie die een bestuurssecretariaat zou kunnen delegeren, tik je om de grenzen vast te stellen. Met elke tik doorloop je de acties de agent kan handelen → alleen voorstellen → de mens moet beslissen. Er is niet één juiste kaart — de oefening is om te ontdekken waar jouw bord de grens trekt tussen machinehandelingen, menselijke instructies en waardeoordelen.
Zelfcontrole
1. Waarom stelt AgenticGovernance.digital dat training alleen niet voldoende is?
Zelfs een goed model kan ervoor zorgen dat aangeleerde aannames zwaarder wegen dan de intentie van de gebruiker — handhaving moet structureel zijn, niet louter ambitieus.
2. Wat moet in het controlemodel met zes diensten bij de mensen blijven?
Machinale handelingen kunnen worden geautomatiseerd; instructies moeten blijvend zijn; waardeoordelen en goedkeuring door het bestuur blijven een taak voor mensen.
3. Welke informatie moet een verslag van een door AI ondersteunde beraadslaging bevatten, naast het uiteindelijke besluit?
Autonomie zonder controleerbaar toezicht is een bestuurstekort — uit de documentatie moet blijken waar mensen de controle hebben behouden.