Zum Inhalt springen
Humanitäre KIDJAIRI · Der Mensch zuerst
DE

Erster Zugang

Wirkung verstehen

Dasselbe Werkzeug kann an einer Stelle helfen und an einer anderen schaden. Diese Beispiele zeigen, wo Technik unser Verständnis erweitert und wo das Urteil bei einem Menschen bleiben muss, der den Kontext kennt.

Beispiele aus Bildung, Arbeit und öffentlichen Diensten: wann das Werkzeug hilft und wann menschliche Prüfung nötig ist.

Die Ampel: Wann können Sie dem Werkzeug vertrauen?

Grün: nutzen und kurz prüfen

Bekannte Inhalte zusammenfassen, Ideen ordnen, Formulierungen vorschlagen, Aufgaben sortieren, die niemandes Rechte berühren.

Gelb: mit menschlicher Prüfung nutzen

Informationen, auf die Sie sich stützen oder die Sie veröffentlichen, die Bewertung der Arbeit eines Menschen oder Material für ein sensibles Publikum wie Kinder.

Rot: Ein verantwortlicher Mensch entscheidet

Entscheidungen über das Recht eines Menschen auf einen Dienst, eine Arbeit, Bildung oder Unterstützung, die auf persönlichen oder Gesundheitsdaten beruhen oder schwer rückgängig zu machen sind.

Beispiele aus drei Bereichen

Bildung

Wo das Werkzeug hilft
Gestufte Übungsfragen vorschlagen, einen Begriff auf verschiedene Weise erklären, Lehrkräften helfen, Aktivitäten zu variieren.
Wo menschliche Prüfung nötig ist
Das Verständnis eines Lernenden bewerten, akademische Redlichkeit beurteilen, den Unterricht an jeden Lernenden anpassen.
Stoppsignal
Ein Werkzeug entscheidet allein über die Note eines Lernenden oder stuft ihn als „schwach“ ein, ohne dass die Lehrkraft die Arbeit ansieht.

Arbeit

Wo das Werkzeug hilft
Korrespondenz ordnen, Entwürfe schreiben, Besprechungen zusammenfassen, nicht personenbezogene Daten analysieren.
Wo menschliche Prüfung nötig ist
Einstellung, Beförderung und Leistungsbeurteilung sowie jede Entscheidung über den Lebensunterhalt eines Menschen.
Stoppsignal
Ein automatisiertes System sortiert Bewerbende wegen einer Lücke im Lebenslauf oder ihrer Adresse aus, ohne dass ein Mensch die Umstände betrachtet.

Öffentliche Dienste

Wo das Werkzeug hilft
Menschen zum richtigen Dienst lotsen, häufige Fragen beantworten, Akten nach Vollständigkeit sortieren.
Wo menschliche Prüfung nötig ist
Unterstützung gewähren oder ablehnen, „Risiko“ einschätzen und jede Entscheidung über das Recht auf eine grundlegende Leistung.
Stoppsignal
Eine Person erhält einen Bescheid ohne verständliche Begründung und ohne klaren Weg, eine menschliche Prüfung zu verlangen.

Bevor Sie sich auf ein Werkzeug verlassen, fragen Sie

  1. Wen betrifft das Ergebnis – und weiß die Person, dass ein Werkzeug beteiligt war?
  2. Welche Daten wurden genutzt – und sind sie nötig und richtig?
  3. Kann eine befugte Person das Ergebnis ändern?
  4. Was passiert, wenn das Werkzeug irrt, und wer trägt die Kosten?

Probieren Sie es selbst

In der interaktiven Übung prüfen Sie eine Entscheidung, die ein automatisiertes System eingestuft hat, und entdecken, was fehlte.

Zur Übung →

Aus dem DJAIRI-Netzwerk

Plattformen, die fortsetzen, was Sie hier beginnen.

DJAIRI-Portal (öffnet eine andere Website)