Die andere Seite des Tisches

Agents at Work — CC BY 4.0

Bisher stand jede Lektion auf Ihrer Seite des Tisches – Ihr Agent, Ihr Anwendungsbereich, Ihr Test, Ihre Haftung. Diese letzte Lektion wechselt auf die andere Seite, denn dort ist immer jemand: der Bewerber, dessen Lebenslauf Ihr Agent gelesen hat, der Kunde, dessen Beschwerde er eingestuft hat, das Mitglied, dessen Daten er bearbeitet hat. Sie haben sich nicht für Ihr Tool entschieden. Meistens wissen sie gar nicht, dass es gelaufen ist. Und sie tragen die Konsequenzen dessen, was es entschieden hat.

Das ist Anker 4 – ein Produkt im Dienste der Menschheit –, heruntergebrochen auf eine einzelne Person. Der Test, auf den der gesamte Kurs hingearbeitet hat, lautet nicht „Kann der Agent das tun?“, sondern „Ist die Person auf der anderen Seite dadurch besser dran oder bin ich dadurch nur schneller fertig?“

Was ihr ihnen schuldet

Man braucht kein Jurastudium, um die Pflichten zu benennen; die meisten davon sind einfach Anstand, der durch die Tatsache konkretisiert wird, dass nun eine Maschine im Spiel ist.

• Dass hinter einer Entscheidung, die sie betrifft, ein Mensch steht und nicht nur eine Maschine. Das ist das menschliche Tor aus ihrer Perspektive. Wenn die Entscheidung deines Agenten das Leben eines Menschen verändert – ob beauftragt oder nicht, genehmigt oder nicht –, dann hat diese Person ein echtes menschliches Urteil verdient, keine automatisierte Maschinenentscheidung. Du wusstest bereits, dass dies dich schützt (Stufe 2). Es schützt auch diese Person, und genau darum geht es.
• Dass du ihre Informationen nicht irgendwo unachtsam eingegeben hast. Sie haben sie dir anvertraut – oft, ohne sich dafür entscheiden zu können. Sie in ein Tool einzufügen, das sie möglicherweise speichert oder zum Trainieren nutzt, sie gedankenlos ins Ausland zu schicken, sie von einem Sachbearbeiter horten zu lassen – das sind Verstöße gegen dieses Vertrauen, noch bevor sie überhaupt Verstöße gegen einen Grundsatz sind.
• Ehrlichkeit darüber, dass es passiert ist. Wenn ein KI-gestützter Prozess ihren Antrag oder ihren Fall berührt hat, ist das kein Geheimnis, das man für sich behalten muss. Transparenz – dass KI eingesetzt wurde, nach welchen Kriterien und dass sie um eine erneute Überprüfung durch einen Menschen bitten können – behandelt sie als Teil des Geschehens, nicht als Objekt, an dem etwas vorgenommen wurde.
• Ein Weg zurück zu einem Menschen. Das ist der allerwichtigste Punkt. Eine Person, die von einer automatisierten Entscheidung betroffen ist, sollte die Möglichkeit haben, einen echten Menschen zu erreichen, der sich anhören kann: „Ich glaube, hier wurde mir Unrecht getan“ und etwas dagegen unternehmen kann. Ein Bearbeiter ohne Rückweg zu einem Menschen ist eine Mauer, und hinter Mauern verbirgt sich Ungerechtigkeit.

Warum dies der ganze Kurs ist und keine Fußnote

Geht die Ebenen noch einmal durch und beachtet, dass sie alle hier zusammenlaufen. Geltungsbereich und das Prinzip der geringsten Berechtigungen – damit der Agent niemandem durch Zugriffsrechte schaden kann, die er nie benötigt hat. Kriterien statt Eindrücke – damit eine Entscheidung über eine Person ihr erklärt werden kann. Identitätsblinde und Advers-Impact-Tests – damit sie nicht stillschweigend aufgrund ihrer Identität aussortiert werden. Das Gesetz – denn ihre Rechte sind das, was es schützt. Die souveräne Entscheidung – denn ihre Daten verdienen Schutz. Jede Disziplin in diesem Kurs ist letztendlich eine Pflicht gegenüber der Person, die sich nie an deine Tastatur gesetzt hat.

Entwickle Agenten, die diesen Test bestehen, und du tust genau das, wofür die ganze Trilogie gedacht war: Menschen nicht aus dem Bild zu automatisieren, sondern sie – dich und die Person auf der anderen Seite – fest darin zu verankern.

Die Ein-Seiten-Übersicht – für die andere Seite

Da jeder irgendwann einmal die Person auf der anderen Seite des Agenten eines anderen ist, enthält der Kurs eine eigenständige Seite, die für diese Personen geschrieben wurde: „Wenn eine KI deinen Lebenslauf liest.“ Was du vor dem Einreichen weglassen solltest, wie du deinen Lebenslauf formatieren musst, damit eine Maschine dich fair bewertet, die drei Fragen, die du einem Arbeitgeber stellen solltest, und deine tatsächlichen Rechte. Lies es als Verantwortlicher – es ist die prägnanteste Darstellung dessen, was du schuldest – und teile es als Bürger. Es ist das koha des Kurses an die andere Seite des Tisches.

Weiter

Der krönende Abschluss: Fassen Sie alles in einem Einsatzbriefing für einen Agenten zusammen, den Sie tatsächlich entwickeln würden – und beantworten Sie schriftlich die Frage, die der gesamte Kurs gestellt hat. Wer übernimmt die Verantwortung dafür?