De soevereine keuze — wiens computer, wiens wetten

Agents at Work — CC BY 4.0

Je hebt een agent gebouwd. Hier is een vraag die de bouwer je nooit heeft gesteld: op wiens computer draait hij eigenlijk, en onder wiens wetgeving vallen je gegevens terwijl ze daar zijn?

Voor de meeste mensen is het eerlijke antwoord: „van een heel groot bedrijf, in een ander land, onder de wetten van dat land“ — en ze hebben er nooit over nagedacht, omdat de tool gewoon werkt. Deze les gaat over het nadenken hierover, want voor sommige taken die een agent uitvoert, bepaalt het antwoord wat je zou moeten bouwen.

De afweging, recht voor zijn raap

Er is hier sprake van een echte afweging, en doen alsof dat niet zo is, helpt niemand.

• Een openbaar grensverleggend hulpmiddel — de grote, in de VS gehoste modellen — is op dit moment meestal de meest krachtige optie. Het is ook de optie waarbij je geen controle meer hebt over je gegevens: ze staan op infrastructuur die eigendom is van een bedrijf dat onder de jurisdictie van een ander land valt. Op grond van de Amerikaanse CLOUD kunnen Amerikaanse autoriteiten toegang krijgen tot gegevens die worden bewaard door Amerikaanse providers, waar ter wereld deze zich ook fysiek bevinden. Voor veel alledaags werk is die afweging prima en zou je er bewust voor kiezen.
• Een soevereine optie — een model dat draait op je eigen machine, of op infrastructuur die wordt gehost in Nieuw-Zeeland of de EU en waarover jij de controle hebt — houdt de gegevens onder jouw beheer. Je gegevens blijven onder jouw controle en vallen onder jouw wetgeving. De kosten zijn ook reëel: het kan minder krachtig zijn, meer werk vergen om op te zetten, en het zal niet de verfijning hebben van de grote openbare tools.

Geen van beide is ‘het juiste antwoord’. Het gaat erom de keuze bewust te maken, afgestemd op wat de agent aanraakt — en dat is Anker 3: AI- kwaliteit als basis, toegepast op infrastructuur in plaats van instructies.

Wanneer beheer de voorkeur verdient

Bekijk het nog eens vanuit de gegevensvraag uit Niveau 1. Hoe meer de agent in aanraking komt met de persoonlijke gegevens van anderen — aanvragers, patiënten, leden, whānau — hoe zwaarder de bewaarplichtkant van de afweging weegt. „Het is handiger op de openbare tool“ is een zwak antwoord wanneer wat je erin stopt een stapel levens van anderen is, die in bewaring worden gehouden.

Dit is ook het punt waarop de te Tiriti-verplichting niet langer abstract is. Als een agent informatie zou verwerken over of behorend tot Māori — individuen, whānau, hapū, iwi — is de vraag wiens infrastructuur en wiens beheer van toepassing is geen technische voetnoot; het is een verplichting op het gebied van gegevenssoevereiniteit (Tier 4 gaat hier uitgebreid op in). Een agent die die gegevens stilletjes offshore naar een openbaar model stuurt, is precies het besluit dat niet standaard genomen zou moeten worden.

Hetzelfde patroon, een andere basis

Het goede nieuws is dat er niets verandert van wat je hebt geleerd. Het bouwpatroon uit de vorige les — reikwijdte, criteria, veiligheidsmaatregelen, testen — is identiek, of het model nu op een openbare tool draait of op soevereine infrastructuur. Het ontwerp van de agent maakt niet uit waar de inferentie plaatsvindt. De soevereine optie vereist dus geen andere vaardigheden; het is dezelfde agent die stevig staat op grond die jij beheert.

Dat is de richting waar ons eigen werk naartoe wijst — The Village bestaat om het soevereine uiteinde van dit spectrum te vormen: hetzelfde soort agent, draaiend op infrastructuur onder Nieuw-Zeelandse en Europese jurisdictie in plaats van offshore. Eerlijk gezegd is dat uiteinde van het spectrum nog jonger en ruwer dan de gepolijste openbare tools; de demo is een startpunt, geen afgewerkt product. Maar de reden dat het bestaat, is precies deze les: zodat ‘bewaring behouden’ niet hoeft te betekenen ‘het zonder agent moeten stellen’.

De stap naar de bouw

Stel voor de agent die je zou bouwen de vraag die de tool nooit stelt:

• Waar raakt het aan — mijn gegevens, of die van anderen die in bewaring zijn?
• Waar vindt de inferentie plaats — op wiens computer, onder wiens jurisdictie?
• Rechtvaardigt de gevoeligheid van de gegevens de afweging tussen mogelijkheden — openbaar en krachtig, of soeverein en onder mijn controle?

Soms is het antwoord de openbare tool, bewust gekozen. Soms is het soevereine infrastructuur, omdat beheer belangrijker is dan een strak uiterlijk voor deze gegevens. Het verkeerde antwoord is het antwoord dat je nooit daadwerkelijk hebt gegeven.

Volgende

Niveau 4: de agent aan het werk zetten, hem in de gaten houden terwijl hij draait, de wet waaraan je daadwerkelijk onderworpen bent, en de plichten die je hebt ten opzichte van de mensen aan de andere kant ervan.