De andere kant van de tafel

Agents at Work — CC BY 4.0

Tot nu toe stonden alle lessen aan jouw kant van de tafel — jouw agent, jouw scope, jouw test, jouw aansprakelijkheid. Deze laatste gaat over naar de andere kant, want daar is altijd iemand: de sollicitant wiens cv je agent heeft gelezen, de klant wiens klacht hij heeft gesorteerd, het lid wiens gegevens hij heeft verwerkt. Zij hebben niet voor jouw tool gekozen. Meestal weten ze niet eens dat die draaide. En zij dragen de gevolgen van wat die heeft besloten.

Dit is Anker 4 — een product dat de mensheid dient — teruggebracht tot één persoon. De toets waar de hele cursus naartoe heeft gewerkt, is niet „kan de agent dit doen?” Het is „maakt dit de persoon aan de andere kant beter af, of zorgt het er alleen maar voor dat ik sneller klaar ben?”

Wat je hen verschuldigd bent

Je hebt geen rechtenstudie nodig om de plichten te benoemen; de meeste zijn gewoon fatsoen, maar dan concreet gemaakt door het feit dat er nu een machine bij betrokken is.

• Dat er een persoon, en niet alleen een machine, achter een beslissing staat die hen raakt. Dit is de menselijke poort, gezien vanuit hun perspectief. Wanneer de output van je agent iemands leven verandert — ingehuurd of niet, goedgekeurd of niet — is die persoon een echt menselijk oordeel verschuldigd, geen standaard machinale beslissing. Je wist al dat dit jou beschermt (Tier 2). Het beschermt ook hen, en dat is juist het punt.
• Dat je hun informatie niet zomaar ergens onzorgvuldig hebt ingevoerd. Ze hebben het aan jou toevertrouwd — vaak zonder daar zelf voor te kiezen. Het in een tool plakken die het misschien opslaat of ermee traint, het zonder nadenken naar het buitenland sturen, het door een medewerker laten oppotten — dat zijn schendingen van dat vertrouwen, nog voordat het schendingen van een principe zijn.
• Eerlijkheid over het feit dat het is gebeurd. Als een door AI ondersteund proces hun aanvraag of hun zaak heeft bewerkt, is dat geen geheim dat je moet bewaren. Transparantie — dat er AI is gebruikt, op basis van welke criteria, en dat ze kunnen vragen om een mens die er nog eens naar kijkt — behandelt hen als een partij in het proces, niet als een object waarop het is toegepast.
• Een terugweg naar een mens. Het allerbelangrijkste punt. Iemand die het slachtoffer is van een geautomatiseerde beslissing, moet een echt mens kunnen bereiken die kan luisteren naar „Ik denk dat dit niet klopt“ en er iets aan kan doen. Een medewerker zonder terugweg naar een mens is een muur, en achter muren schuilt onrechtvaardigheid.

Waarom dit de hele cursus is, en geen voetnoot

Ga nog eens door de niveaus heen en merk op dat ze allemaal hier uitkomen. Reikwijdte en minimale bevoegdheden — zodat de agent niemand schade kan berokkenen door toegang die hij nooit nodig had. Criteria in plaats van gevoel — zodat een beslissing over een persoon aan hem of haar kan wordenuitgelegd. Identiteitsblinde en negatieve-effectentests — zodat mensen niet stilletjes worden uitgesloten vanwege wie ze zijn. De wet — omdat hun rechten juist worden beschermd. De soevereine keuze — omdat hun gegevens het verdienen om veilig te worden bewaard. Elk onderdeel van deze cursus is, uiteindelijk, een plicht jegens de persoon die nooit achter jouw toetsenbord heeft gezeten.

Bouw agents die die test doorstaan en je doet precies waar de hele trilogie voor bedoeld was: mensen niet uit het plaatje automatiseren, maar hen — jou en de persoon aan de andere kant — er stevig in houden.

De one-pager — voor de andere kant

Omdat iedereen op een gegeven moment de persoon aan de andere kant is van de agent van iemand anders, bevat de cursus een op zichzelf staande pagina die voor hen is geschreven: „Wanneer een AI je cv leest.” Wat je moet schrappen voordat je je sollicitatie verstuurt, hoe je het moet opmaken zodat een machine je eerlijk beoordeelt, de drie vragen die je aan een werkgever moet stellen, en je daadwerkelijke rechten. Lees het als iemand die het systeem inzet — het is de scherpste mogelijke uiteenzetting van wat je verschuldigd bent — en deel het als burger. Het is de koha van de cursus aan de andere kant van de tafel.

Vervolgens

De afsluiting: breng alles samen in één implementatiebeschrijving voor een agent die je daadwerkelijk zou bouwen — en beantwoord op papier de vraag die de hele cursus stelde. Wie is hiervoor verantwoordelijk?