Aller au contenu
IA humanitaireDJAIRI · L'humain d'abord
FR

Première porte

Comprendre l'impact

Un même outil peut aider à un endroit et nuire à un autre. Ces exemples montrent où la technologie élargit notre compréhension, et où le jugement doit rester à une personne qui connaît le contexte.

Des exemples dans l'éducation, le travail et les services publics : quand l'outil aide et quand un examen humain est nécessaire.

Le feu tricolore : quand se fier à l'outil ?

Vert : utilisez et vérifiez rapidement

Résumer un contenu que vous connaissez, organiser des idées, proposer des formulations, ordonner des tâches qui ne touchent aux droits de personne.

Orange : utilisez avec un examen humain

Une information sur laquelle vous vous appuierez ou que vous publierez, l'évaluation du travail de quelqu'un, ou un contenu destiné à un public sensible comme les enfants.

Rouge : une personne responsable décide

Les décisions qui touchent au droit d'une personne à un service, un emploi, une formation ou une aide, qui reposent sur des données personnelles ou de santé, ou qui sont difficiles à annuler.

Exemples dans trois domaines

Éducation

Où l'outil aide
Proposer des questions d'entraînement progressives, expliquer une notion de plusieurs façons, aider l'enseignant à varier les activités.
Où un examen humain est nécessaire
Évaluer la compréhension d'un élève, juger l'intégrité académique, adapter l'enseignement aux besoins de chacun.
Signal d'arrêt
Un outil qui décide seul de la note d'un élève ou le classe « faible » sans que son enseignant examine le travail.

Travail

Où l'outil aide
Organiser la correspondance, rédiger des brouillons, résumer des réunions, analyser des données non personnelles.
Où un examen humain est nécessaire
Recrutement, promotion et évaluation, et toute décision qui modifie le gagne-pain de quelqu'un.
Signal d'arrêt
Un système automatisé qui écarte un candidat à cause d'un trou dans son CV ou de son adresse, sans qu'une personne considère sa situation.

Services publics

Où l'outil aide
Orienter vers le bon service, répondre aux questions fréquentes, trier les dossiers selon leur complétude.
Où un examen humain est nécessaire
Accorder ou refuser une aide, estimer un « risque », et toute décision touchant au droit à un service essentiel.
Signal d'arrêt
Un citoyen qui reçoit une décision sans motif compréhensible ni moyen clair de demander un examen humain.

Avant de vous fier à un outil, demandez-vous

  1. Qui est touché par le résultat, et sait-il qu'un outil y a participé ?
  2. Quelles données ont été utilisées, et sont-elles nécessaires et exactes ?
  3. Une personne habilitée peut-elle modifier le résultat ?
  4. Que se passe-t-il si l'outil se trompe, et qui en supporte le coût ?

Essayez par vous-même

Dans l'exercice interactif, vous examinez une décision classée par un système automatisé et découvrez ce qui lui a échappé.

Aller à l'exercice →

Dans l'écosystème DJAIRI

Des plateformes qui prolongent ce que vous commencez ici.

Portail DJAIRI (ouvre un autre site)