Het bestuursrisico van verslagen van beraadslagingen van niet-soevereine instanties
Deze module maakt het organisatorische risico duidelijk. Wanneer besluitvormingsverslagen veranderlijk zijn, moeilijk te verifiëren, verspreid over verschillende leveranciers of onderworpen aan externe rechtsgebieden, draagt de organisatie een reële en zich opstapelende aansprakelijkheid — zelfs als er nog niets mis is gegaan. Het doel is om die risico’s zo nauwkeurig te benoemen dat een raad van bestuur ze in zijn eigen systemen kan herkennen en ze kan afwegen tegen het gemak dat aanleiding gaf tot die risico’s.
3.1 Documenten als bewijsgrondslag voor legitimiteit
De meeste organisaties beschouwen verslagen van beraadslagingen als administratief afval — een bijproduct van vergaderingen dat alleen bedoeld is om te worden gearchiveerd en vervolgens te worden vergeten. In de praktijk vormen ze echter de bewijsbasis voor de institutionele legitimiteit. Ze zijn het enige waarmee een organisatie later kan aantonen dat een besluit via een eerlijk proces tot stand is gekomen: dat het relevante materiaal is overwogen, dat afwijkende meningen zijn gehoord, dat conflicten zijn beheerst en dat goedkeuringen oprecht waren. Als het verslag van hoe een besluit tot stand is gekomen stilletjes kan worden gewijzigd, onvolledig kan worden opgevraagd of als onauthentiek kan worden aangemerkt, wordt het vermogen van de organisatie om een eerlijk proces aan te tonen verzwakt — en legitimiteit die niet kan worden aangetoond, is, wanneer deze ter discussie staat, niet te onderscheiden van legitimiteit die er nooit is geweest.
Belangrijkste leerpunten
- Notulen van beraadslagingen maken deel uit van de controleomgeving en zijn niet louter archiefstukken — hiermee toont de organisatie aan dat haar controles daadwerkelijk hebben gewerkt.
- Een eerlijke procedure waarvan je niet kunt aantonen dat deze is gevolgd, vormt een aansprakelijkheidsgrond, geen verweer; bij geschillen rust de bewijslast doorgaans op de organisatie om aan te tonen dat de procedure is gevolgd, en niet op de tegenpartij om het tegendeel te bewijzen.
- De betrouwbaarheid van een document hangt af van de eigenschappen ervan — auteurschap, wijzigbaarheid, volledigheid, verifieerbaarheid — en niet van de mate waarin de betrokkenen menen dat ze zorgvuldig te werk zijn gegaan.
Discussieonderwerpen
- Welke beslissing van uw organisatie zou het moeilijkst te verdedigen zijn als bekend zou zijn dat het enige beschikbare document stiekem bewerkt kan worden?
- Op welke punten is uw bestuursstructuur momenteel afhankelijk van het feit dat mensen zich herinneren wat er is gebeurd, in plaats van op een document dat dit kan aantonen?
- Wat is het praktische verschil tussen „we hebben correct gehandeld” en „we kunnen aantonen dat we correct hebben gehandeld”?
3.2 Vijf risicocategorieën
Het risico van een niet-soeverein besluitvormingsverslag is geen enkelvoudig gevaar, maar een reeks afzonderlijke, elkaar versterkende risico’s. Door ze afzonderlijk te benoemen, kan een raad van bestuur elk risico afzonderlijk toetsen aan zijn eigen systemen, in plaats van zich te baseren op een vaag gevoel van onbehagen over „de cloud“. Er zijn vijf categorieën die dit gebied bestrijken.
- Integriteit — gegevens kunnen onopgemerkt worden bewerkt, overschreven of samengevat, zodat niemand met zekerheid kan zeggen dat de gegevens een getrouwe weergave zijn van wat er werkelijk is gebeurd.
- Rechtsbevoegdheid — gegevens die worden bewaard op infrastructuur onder buitenlandse zeggenschap vallen onder buitenlandse wetgeving en verplichtingen van de dienstverlener, waaronder gedwongen openbaarmaking waarvan de organisatie wellicht nooit op de hoogte zal worden gesteld.
- Hergebruik van AI — gevoelig beraadslagingsmateriaal kan op ondoorzichtige wijze het gedrag van het model beïnvloeden wanneer de architectuur niet autonoom is, zonder dat er een betrouwbare grens is voor de manier waarop het verderop in het proces wordt gebruikt.
- Toetsbaarheid — zonder betrouwbare sporen kan de organisatie niet achterhalen waarom een bepaalde conclusie is getrokken, waardoor beslissingen onmogelijk kunnen worden gecontroleerd, betwist of naar behoren verdedigd.
- Vertrouwen — belanghebbenden kunnen redelijkerwijs twijfelen of het proces eerlijk, volledig en nauwkeurig is vastgelegd, waardoor het vertrouwen wordt ondermijnd, zelfs als de onderliggende beslissing deugdelijk was.
Deze risico’s overlappen elkaar. Een bevoegdheidsprobleem kan uitmonden in een probleem met het hergebruik van AI; een tekortkoming in de integriteit leidt direct tot een tekortkoming in de betwistbaarheid; en elk van deze problemen wordt, zodra het zichtbaar wordt voor belanghebbenden, een vertrouwensprobleem. Bij AI-ondersteund bestuur wordt dit punt nog scherper: het is niet voldoende om alleen de eindresultaten op te slaan. Organisaties hebben betrouwbare sporen nodig van de ingevoerde prompts, de geraadpleegde bronnen, de uitgevoerde controlemomenten en de verleende goedkeuringen. Een veranderbaar verslag verzwakt zowel de juridische verdedigbaarheid als de ethische verantwoordingsplicht tegelijkertijd.
Aanvullende literatuur
- Europese Toezichthouder voor gegevensbescherming — TechDispatch over blockchain — over integriteit en verifieerbaarheid als eigenschappen van gegevensbescherming, en in welke gevallen deze eigenschappen wel (of niet) van nut zijn.
- ENISA — Technische aspecten van gegevensbescherming — technische maatregelen ter waarborging van de integriteit, traceerbaarheid en verantwoordingsplicht in gegevenssystemen.
Discussieonderwerpen
- Van elk van de vijf risico’s: aan welk risico is uw organisatie momenteel het meest blootgesteld — en welk risico is nog nooit beoordeeld?
- Als AI u momenteel ondersteunt bij uw governance: kunt u dan de instructies, bronnen, beoordelingsstappen en goedkeuringen achter een bepaalde output weergeven, of alleen de output zelf?
- Welk van deze vijf risico’s wordt een existentiële bedreiging wanneer de beslissing gevolgen heeft voor rechten, culturele legitimiteit, overheidsfinanciering of activa op lange termijn?
Casus-simulatie · Triage op basis van vijf risico’s
Geef voor elk van de onderstaande registratiesystemen aan waar het grootste risico werkelijk ligt. Dit is een eerste beoordeling, geen definitief oordeel — het doel is om te zien aan welke van de vijf categorieën elk systeem je blootstelt, zodat de raad van bestuur die blootstelling kan afwegen tegen het gemak dat ermee gepaard gaat.
Zelfcontrole
1. Waarom worden verslagen van beraadslagingen beschouwd als de bewijsgrondslag voor legitimiteit?
De legitimiteit die ter discussie staat, is wat de organisatie kan aantonen dat er is gebeurd — en het verslag van de beraadslagingen vormt het bewijsmiddel daarvoor.
2. Welke uitspraak geeft het risico van „hergebruik van AI” het beste weer?
Zonder een soevereine architectuur is er geen betrouwbare grens voor de manier waarop het beraadslagingsmateriaal verderop in het proces wordt gebruikt.
3. Bij AI-ondersteund bestuur volstaat het niet om alleen de uiteindelijke output op te slaan, omdat de organisatie ook behoefte heeft aan…
Betwistbaarheid en verantwoordingsplicht hangen af van het traject dat tot de uitkomst heeft geleid, en niet alleen van de uitkomst zelf.