Des outils à conserver
Quatre fiches d’une page, tirées directement des leçons. Imprimez-les et affichez-les près de votre bureau, ou conservez-les comme liste de contrôle avant de confier une mission concrète à un agent. Elles résument les principes du cours sous une forme que vous pouvez utiliser sans avoir à relire la leçon à chaque fois — c’est toujours à vous de juger.
La liste de contrôle pour la rédaction
Extrait des leçons 1.4 et 2.4 : la question des données et l’anonymisation des identités là où cela compte.
Avant qu’un agent n’accède aux données d’autrui, posez la question de la garde, puis supprimez tout ce qui n’est pas nécessaire à la tâche. L’expurgation est le minimum requis, pas la solution ultime — faites-le, mais continuez à vérifier la présence de biais qui s’immiscent via des intermédiaires (carte 3).
Supprimez les informations superflues avant le traitement — ne conservez que le contenu pertinent pour la tâche
- Identité — nom, photo, date de naissance ou âge, adresse personnelle. Si la tâche consiste à « mettre en adéquation des compétences avec un poste », aucun de ces éléments ne doit être pris en compte.
- Signaux liés à des attributs protégés — genre, origine ethnique, situation matrimoniale ou familiale, nationalité, religion. Ne les incluez pas, sauf si le poste les exige véritablement.
- N’oubliez pas la limite: les biais se répercutent à travers des indicateurs que vous ne pouvez pas masquer : établissement scolaire, code postal, interruptions de carrière, style d’écriture. Le masquage est nécessaire, mais pas suffisant.
Il s’agit d’informations générales et non de conseils juridiques. Si vous courez un risque réel, consultez un avocat qualifié au sujet de votre situation.
Le modèle de critères
Extrait de la leçon 2.3 — des critères, pas des impressions.
Rédigez d’abord les critères, avec vos propres mots, avant que l’agent ne s’exécute. Les critères choisis a posteriori ne font que justifier la réponse que vous avez déjà. L’agent renvoie des éléments de preuve par rapport à ces critères — pas un score, ni un verdict.
Cet agent évalue / décide…
Les critères : pertinents pour le poste, et uniquement ceux-là
L’agent revient…
Des éléments factuels et une justification pour chaque critère — y compris en cas de doute — et non une note, un classement ou une recommandation à approuver.
La personne qui décide (et qui pourrait dire non)…
Une personne à qui l’on remet des éléments de preuve les évalue ; une personne à qui l’on remet un verdict se contente de l’entériner. Ce sont les critères qui donnent tout son sens à l’intervention humaine.
La méthode de détection des biais
Extrait de la leçon 3.2 — tester votre agent.
Pour tout agent chargé de juger les gens, il est impossible de déterminer s’il est impartial à première vue. Il faut le mesurer. Effectuez deux tests sur votre propre agent avant de lui faire confiance — puis refaites-les à mesure que les outils sous-jacents évoluent.
1 · Le test de permutation des noms
- Prenez une application. Lancez-la. Notez le résultat.
- Ne modifiez que le nom: remplacez un prénom masculin par un prénom féminin, un prénom manifestement de type « Pākehā » par un prénom manifestement de type « Māori », « Pasifika » ou asiatique. Ne changez rien d’autre.
- Lancez-la à nouveau. Le résultat change-t-il ? Répétez l’opération sur un lot.
- S’il change, cela signifie que l’identité que vous pensiez avoir supprimée transparaît à travers les proxys. Consignez-le.
2 · Test d’impact négatif
- Mesurez les résultats entre les groupes sur un lot réel : qui l’agent sélectionne, qui il élimine.
- Indicateur : la règle des quatre cinquièmes (80 %) — si le taux de sélection d’un groupe est inférieur à 80 % de celui du groupe le mieux classé, c’est un signal avéré. (Une règle empirique du droit du travail américain — un critère de référence, et non une loi néo-zélandaise.)
- En Nouvelle-Zélande, le cadre juridique relève de la discrimination indirecte au titre de la loi sur les droits de l’homme : une pratique d’apparence neutre qui touche de manière disproportionnée un groupe protégé peut être illégale, même en l’absence d’intention.
Il s’agit d’informations générales, et non de conseils juridiques.
Quand une IA lit votre CV
La fiche de présentation du candidat — car tout le monde se retrouve, à un moment ou à un autre, de l’autre côté de l’agent de quelqu’un d’autre. Partagez-la.
Il y a de fortes chances que votre prochaine candidature soit d’abord lue par une machine. Vous avez plus d’influence que vous ne le pensez — mais l’essentiel se joue avant que vous n’appuyiez sur « Envoyer ».
Envoyez moins d’informations — à moins qu’un poste ne l’exige vraiment, ne mentionnez pas
- votre date de naissance et votre âge · une photo · votre adresse personnelle (la ville suffit amplement) · votre situation matrimoniale ou familiale, votre nationalité, votre religion.
Mettez votre candidature en forme de manière à ce qu’un robot puisse la lire correctement
- Une structure simple et des titres clairs — pas de texte noyé dans des images ou des colonnes qu’un analyseur syntaxique ne saurait déchiffrer.
- Citez les compétences requises pour le poste, en termes simples. Les machines font des correspondances ; elles ne lisent pas entre les lignes.
Posez trois questions
- « Utilisez-vous l’IA ou des outils automatisés pour présélectionner les candidatures ? »
- « Que deviennent mes données ? Sont-elles stockées ? Pendant combien de temps ? Sont-elles transmises à un prestataire externe ? »
- « Puis-je demander qu’un être humain réexamine la décision ? »
Une fois votre candidature envoyée, votre contrôle est limité, et il n’existe aujourd’hui aucun moyen pratique de retracer le parcours d’un CV — c’est donc avant l’envoi que vous disposez d’un réel pouvoir d’action. Informations générales, et non conseils juridiques.