Eerst de gegevensvraag

Agents at Work — CC BY 4.0

Er is één gewoonte die je beter uit de problemen houdt dan wat dan ook in deze cursus, en die hoort helemaal aan het begin te staan van het bouwen van een agent, niet aan het einde. Voordat je nadenkt over wat de agent gaat doen, vraag je af waarmee hij in aanraking komt: wiens gegevens spelen er een rol, waar gaan ze naartoe en wie heeft er toegang toe zodra ze je handen verlaten? Dit is de kern van Anker 3 — wiens gegevens, en wiens beslissing — en het is de enige gewoonte die mij de meeste kopzorgen heeft bespaard.

Je kent deze vraag vast wel uit ‘Werken met Claude’ — de bewaarplaatsvraag, die je moet stellen voordat je iets in een chatbot plakt. Agents maken het nog belangrijker, om twee redenen.

Waarom een agent de inzet verhoogt

Ten eerste ziet een agent niet alleen wat je hem aanreikt. Sluit hem aan op je systemen — de gedeelde schijf, de inbox, de klantendatabase — en hij kan zelfstandig bij gegevens komen, veel meer dan je ooit met de hand zou kunnen plakken. Wat je ook aansluit, dat is de inslagradius.

Ten tweede handelt de agent onbewaakt. Wanneer je een cv in een assistent plakt, zit je er tenminste zelf bij. Een agent die sollicitaties ’s nachts doorneemt, verwerkt de persoonlijke gegevens van anderen terwijl niemand kijkt. De vraag over de verantwoordelijkheid is niet langer een eenmalige controle achter het toetsenbord, maar wordt een eigenschap van de hele opstelling: waar heeft dit ding toegang toe, wat stuurt het door, en waar komt dat terecht?

Wat de wet daadwerkelijk zegt (Nieuw-Zeeland)

Je hoeft geen jurist te zijn, maar drie punten uit de Privacywet veranderen de manier waarop je gaat bouwen:

• De prompt telt mee. De Privacycommissaris heeft duidelijk gezegd dat je beveiligingsplicht ook geldt voor de informatie die je in een AI-tool invoert. Het invoeren van de gegevens van een klant of sollicitant in een openbare LLM — een die de gegevens mogelijk bewaart of ermee traint — is geen grijs gebied; het is precies waar het beveiligingsprincipe om draait. (Dit is waarom „we hebben de cv’s gewoon in ChatGPT geplakt“ de zin is die een recruiter meteen zou moeten doen stilstaan.)
• Verzamel alleen wat nodig is. Je mag geen identificeerbare gegevens invoeren die de taak niet vereist. Als de opdracht „sorteren op vaardigheden“ is, zijn de naam, de foto of de geboortedatum niet nodig.
• Waar de gegevens naartoe gaan, is van belang. Het doorgeven van persoonlijke informatie aan een andere dienst — vooral een in het buitenland — kan een openbaarmaking zijn waarvoor je een reden nodig hebt. Of een bepaalde opzet die grens overschrijdt, is echt onduidelijk terrein, en dat is precies waarom je dit beslist voordat je de agent inschakelt, niet erna.

Dit is algemene voorlichting, geen juridisch advies — maar de kern ervan is eenvoudig: de kwestie rond gegevens is een juridische kwestie, niet alleen een kwestie van beleefdheid.

Een opmerking over Māori-gegevens

Als je agent informatie over Māori-personen, whānau, hapū of iwi zou verwerken, beschouw dat dan als een kwestie die overleg vereist, niet als een beslissing die je in je eentje kunt nemen. Māori-gegevenssoevereiniteit — het principe dat Māori-gegevens onder het beheer van Māori vallen — is een geldende verplichting, en de mensen aan wie deze gegevens toebehoren, zijn degenen die bepalen wat passend gebruik inhoudt. Een agent die stilletjes die gegevens 's nachts opneemt, is precies het soort beslissing dat niet standaard genomen mag worden.

De discipline

Voordat je een agent ergens op aansluit of hem op een stapel bestanden richt, schrijf dan drie regels op:

• Wiens gegevens raken hiermee — die van mij, of van iemand die ze aan mij heeft toevertrouwd?
• Waar gaan de gegevens naartoe zodra de agent ze heeft — welke diensten, wiens infrastructuur, wiens wetgeving?
• Wat zou mij een gerust gevoel geven — het anonimiseren ervan, het bewaren op tools waarover ik de controle heb, of deze specifieke gegevens simpelweg helemaal niet overdragen?

Als je die vragen niet kunt beantwoorden, ben je nog niet klaar om de agent te bouwen — je bent klaar om het gesprek te voeren dat bepaalt of je dat wel zou moeten doen.

Waar dit toe leidt

Vraag zes uit de triage — wiens gegevens, wiens beslissing — blijkt het scharnierpunt te zijn waar de hele cursus om draait. Daarom is de Recruiter ons meest sprekende voorbeeld, daarom is ‘identiteitsblind’ een ontwerpprincipe in Tier 2, en daarom blijft sommige werk door mensen gedaan, hoe slim de tools ook worden. In Tier 1 ging het om beslissen. Vervolgens, in Tier 2, beginnen we met ontwerpen — we bepalen de reikwijdte van een agent zodat deze alleen toegang heeft tot wat hij zou moeten hebben, en bouwen we de poort waar een persoon beslist.