Hilfsmittel zum Aufbewahren
Vier einseitige Karten, die direkt aus den Lektionen stammen. Drucken Sie sie aus und heften Sie sie an Ihren Schreibtisch, oder nutzen Sie sie als Checkliste, bevor Sie einen Agenten mit einer konkreten Aufgabe betrauen. Sie fassen die Grundsätze des Kurses in einer Form zusammen, die Sie nutzen können, ohne jedes Mal die Lektion erneut lesen zu müssen – die Entscheidung liegt weiterhin bei Ihnen.
Die Checkliste zur Anonymisierung
Aus den Lektionen 1.4 und 2.4 – die Datenfrage und Identitätsblindheit, wo es darauf ankommt.
Bevor ein Agent auf die Daten anderer Personen zugreift, stellen Sie die Frage nach der Verwahrung und entfernen Sie dann alles, was für die Aufgabe nicht benötigt wird. Die Schwärzung ist die Mindestanforderung, nicht das Maximum – führen Sie sie durch und prüfen Sie dennoch auf Verzerrungen, die sich über Proxys einschleichen (Karte 3).
Entfernen Sie Daten vor der Verarbeitung – geben Sie nur aufgabenrelevante Inhalte ein
- Identität – Name, Foto, Geburtsdatum oder Alter, Wohnadresse. Wenn die Aufgabe darin besteht, „Fähigkeiten einer Rolle zuzuordnen“, gehört nichts davon zu den Eingabedaten.
- Signale für geschützte Merkmale – Geschlecht, ethnische Zugehörigkeit, Familienstand, Nationalität, Religion. Lassen Sie diese weg, es sei denn, die Stelle erfordert sie tatsächlich.
- Denken Sie an die Grenzen – Vorurteile sickern durch Indikatoren durch, die Sie nicht schwärzen können: Schule, Postleitzahl, Lücken im Lebenslauf, Schreibstil. Schwärzen ist notwendig, aber nicht ausreichend.
Allgemeine Information, keine Rechtsberatung. Wenn ein echtes Risiko besteht, sprechen Sie mit einem qualifizierten Anwalt über Ihre Situation.
Die Kriterienvorlage
Aus Lektion 2.3 – Kriterien, keine Bauchgefühle.
Formulieren Sie die Kriterien zunächst in Ihren eigenen Worten, bevor der Agent ausgeführt wird. Nachträglich gewählte Kriterien rechtfertigen lediglich die Antwort, die Sie bereits haben. Der Agent liefert Belege im Hinblick auf diese Kriterien – keine Punktzahl, kein Urteil.
Dieser Agent beurteilt / entscheidet…
Die Kriterien – berufsrelevant, und nur diese
Der Sachbearbeiter meldet sich zurück…
Belege und Begründungen zu jedem Kriterium – auch bei Unklarheiten – keine Punktzahl, keine Rangfolge und keine Empfehlung, der man zustimmen soll.
Die Person, die entscheidet (und „Nein“ sagen könnte)…
Wer Beweise vorgelegt bekommt, wägt sie ab; wer ein Urteil vorgelegt bekommt, stempelt es ab. Kriterien sind es, die die menschliche Instanz real machen.
Die „Bias-Probe“-Methode
Aus Lektion 3.2 – Testen Ihres Agenten.
Bei jedem Agenten, der über Menschen urteilt, lässt sich nicht auf den ersten Blick erkennen, ob er fair ist. Messen Sie es. Führen Sie zwei Tests an Ihrem eigenen Agenten durch, bevor Sie ihm vertrauen – und wiederholen Sie diese, sobald sich die zugrunde liegenden Werkzeuge ändern.
1 · Der Namenstausch-Test
- Nimm eine Anwendung. Führe sie aus. Notiere das Ergebnis.
- Ändern Sie nur den Namen – tauschen Sie einen männlichen Namen gegen einen weiblichen aus, einen offensichtlich nach dem Muster „Pākehā“ lautenden Namen gegen einen offensichtlich nach dem Muster „Māori“, „Pasifika“ oder einen asiatischen Namen. Ändern Sie sonst nichts.
- Führen Sie sie erneut aus. Ändert sich das Ergebnis? Wiederholen Sie dies für eine ganze Charge.
- Wenn sich das Ergebnis ändert, sickert die Identität, von der Sie dachten, Sie hätten sie entfernt, über Proxys durch. Dokumentieren Sie dies.
2 · Test auf nachteilige Auswirkungen
- Messen Sie die Ergebnisse über verschiedene Gruppen hinweg anhand eines echten Stapels – wen der Algorithmus weiterleitet, wen er aussortiert.
- Hinweis: Die Vier-Fünftel-Regel (80 %) – wenn die Auswahlquote einer Gruppe unter 80 % derjenigen der Gruppe mit der höchsten Quote liegt, gilt dies als feststehendes Signal. (Eine Faustregel des US-Arbeitsrechts – ein Maßstab, kein neuseeländisches Gesetz.)
- In Neuseeland ist der rechtliche Rahmen die indirekte Diskriminierung gemäß dem Human Rights Act: Eine neutral erscheinende Vorgehensweise, die eine geschützte Gruppe unverhältnismäßig stark benachteiligt, kann auch ohne Vorsatz rechtswidrig sein.
Allgemeine Information, keine Rechtsberatung.
Wenn eine KI Ihren Lebenslauf liest
Die Ein-Seiten-Zusammenfassung für Bewerber – denn jeder steht irgendwann einmal auf der anderen Seite des Algorithmus eines anderen. Teilen Sie sie.
Die Wahrscheinlichkeit ist groß, dass deine nächste Bewerbung zuerst von einer Maschine gelesen wird. Du hast mehr Einfluss, als du denkst – aber der größte Teil davon liegt in der Hand, bevor du auf „Senden“ klickst.
Reiche weniger ein – sofern es für eine Stelle nicht wirklich erforderlich ist, lass Folgendes weg
- Geburtsdatum und Alter · ein Foto · Ihre Privatadresse (die Stadt reicht völlig aus) · Familienstand, Nationalität, Religion.
Gestalte das Format so, dass eine Maschine dich fair auswertet
- Einfache Struktur und klare Überschriften – kein Text, der in Bildern oder Spalten versteckt ist, die ein Parser durcheinanderbringen würde.
- Nennen Sie die für die Stelle geforderten Fähigkeiten in einfachen Worten. Maschinen vergleichen nur; sie lesen nicht zwischen den Zeilen.
Stellen Sie drei Fragen
- „Verwenden Sie KI oder automatisierte Tools zur Vorauswahl von Bewerbungen?“
- „Was passiert mit meinen Daten – werden sie gespeichert, wie lange und werden sie an einen externen Dienstleister weitergegeben?“
- „Kann ich darum bitten, dass ein Mensch die Entscheidung überprüft?“
Sobald Sie Ihre Bewerbung abgeschickt haben, ist Ihr Einfluss begrenzt, und es gibt derzeit keine praktische Möglichkeit, den Weg Ihres Lebenslaufs nachzuverfolgen – daher liegt Ihr eigentlicher Einfluss vor dem Absenden. Allgemeine Informationen, keine Rechtsberatung.