Aller au contenu
IA humanitaireDJAIRI · L'humain d'abord
FR

Deuxième porte · exercice interactif

Examiner une décision

Le cas est fictif mais repose sur des situations connues. Prenez deux minutes pour examiner une décision automatisée comme le ferait une personne responsable.

Cas fictif à but pédagogique ; noms et chiffres inventés.

La famille de Laïla — demande d'aide au transport scolaire

  1. 1La décision
  2. 2Ses données
  3. 3Ce qui manquait
  4. 4Comment réexaminer
  5. 5Votre demande

Cette décision est arrivée

Résultat du système

Priorité faible — liste d'attente : 6 mois

Score d'éligibilité calculé : 41 sur 100

Laïla a demandé une aide au transport pour ses deux enfants. Un système automatisé a classé les demandes selon un « score d'éligibilité », puis un agent a validé le résultat sans le modifier.

Avant de juger : savez-vous pourquoi ce score a été attribué ?

Les informations utilisées par le système

Touchez chaque carte pour voir la source de l'information et sa date.

  • Tiré de la déclaration de l'an dernier, avant que le père perde son emploi.

  • Tirée d'un ancien registre qui ne mentionne pas la grand-mère qui vit avec eux.

  • Mesurée à vol d'oiseau sur la carte, et non selon le trajet à pied réel.

  • Un rapport médical a été demandé par un courrier qui n'est jamais arrivé.

  • Comptée dans un « indicateur de dépendance » qui fait baisser le score.

Qu'est-ce qui a échappé au système ?Sélectionnez tout ce qu'il aurait fallu savoir avant la décision, puis appuyez sur « Vérifier ».

Exact : le système a utilisé un revenu ancien qui ne reflète pas la situation actuelle.

Exact : c'est essentiel pour le besoin de transport, et c'était dans le rapport dont la demande n'est jamais arrivée.

Exact : la distance sur une carte ne dit rien du danger du trajet.

Sans rapport : toute information disponible n'est pas utile, et la collecter porte atteinte à la vie privée sans bénéfice.

Exact : « dossier incomplet » est ici un défaut de communication, pas une faute de la famille.

Interdit : utiliser la nationalité ou l'origine pour l'éligibilité est une discrimination sans lien avec le besoin.

Comment réexamineriez-vous la décision ?Choisissez les démarches qui vous semblent appropriées, puis appuyez sur « Évaluer mon choix ».

Essentiel : on ne peut pas contester ce qu'on ignore.

Efficace : la décision reposait sur des données anciennes ou incomplètes.

Nécessaire : valider un résultat par formalité n'est pas un examen humain.

Inapproprié : un système n'est pas plus précis que ses données, incomplètes ici.

Généralement inefficace : elle obtiendra le même résultat et pourra même jouer contre vous.

Important : connaissez la suite avant que le délai expire.

Votre demande est prête

Voici une demande de réexamen fondée sur vos choix. Adaptez-la à votre situation réelle et n'ajoutez pas de données sensibles inutiles.

Objet : Demande d'explication et de réexamen humain de la décision d'aide au transport scolaire

Je vous prie de bien vouloir :
1. Me communiquer par écrit les motifs de la décision, les données utilisées et leur source, et m'indiquer si un système automatisé y a participé.
2. Corriger les données retenues ; je joins les justificatifs de mon revenu actuel et le rapport médical demandé, dont le courrier de demande ne m'est jamais parvenu.
3. Transmettre la demande à un agent habilité à modifier la décision, pour réexamen après correction des données.
4. M'indiquer l'instance compétente pour une réclamation et le délai si la décision reste inchangée.

Pièces jointes : [revenu actuel] [rapport médical]
Cordialement,
[Nom] — [Coordonnées]

Ce que nous avons appris

  • Un système n'est pas plus précis que ses données.
  • Valider un résultat sans l'examiner n'est pas un examen humain.
  • Toute information disponible n'est pas utile ni autorisée.

1 / 5

Pour aller plus loin

Avant de vous fier à un outil, demandez-vous

  1. Qui est touché par le résultat, et sait-il qu'un outil y a participé ?
  2. Quelles données ont été utilisées, et sont-elles nécessaires et exactes ?
  3. Une personne habilitée peut-elle modifier le résultat ?
  4. Que se passe-t-il si l'outil se trompe, et qui en supporte le coût ?

Comprendre l'impact → · Partager votre expérience →

Dans l'écosystème DJAIRI

Des plateformes qui prolongent ce que vous commencez ici.

Portail DJAIRI (ouvre un autre site)