Ir al contenido
IA HumanitariaDJAIRI · Las personas primero
ES

Primera puerta

Entender el impacto

La misma herramienta puede ayudar en un lugar y perjudicar en otro. Estos ejemplos muestran dónde la tecnología amplía nuestra comprensión y dónde el juicio debe quedar en manos de una persona que conoce el contexto.

Ejemplos de la educación, el trabajo y los servicios públicos: cuándo ayuda la herramienta y cuándo hace falta revisión humana.

El semáforo: ¿cuándo puedes confiar en la herramienta?

Verde: úsala y revisa rápido

Resumir un material que conoces, ordenar ideas, sugerir redacciones, organizar tareas que no afectan a los derechos de nadie.

Ámbar: úsala con revisión humana

Información en la que te basarás o que publicarás, la evaluación del trabajo de alguien o material para un público sensible como la infancia.

Rojo: decide una persona responsable

Decisiones que afectan al derecho de alguien a un servicio, un empleo, la educación o una ayuda, que usan datos personales o de salud, o que son difíciles de revertir.

Ejemplos de tres ámbitos

Educación

Dónde ayuda la herramienta
Proponer preguntas de práctica graduadas, explicar un concepto de varias formas, ayudar al docente a variar las actividades.
Dónde hace falta revisión humana
Evaluar la comprensión del alumnado, juzgar la integridad académica, adaptar la enseñanza a cada estudiante.
Señal de alto
Que una herramienta decida sola la nota de un estudiante o lo etiquete como «flojo» sin que su docente revise el trabajo.

Trabajo

Dónde ayuda la herramienta
Ordenar la correspondencia, redactar borradores, resumir reuniones, analizar datos no personales.
Dónde hace falta revisión humana
Contratación, ascensos y evaluación del desempeño, y cualquier decisión que cambie el sustento de alguien.
Señal de alto
Que un sistema automatizado descarte a un candidato por un hueco en su currículum o por su dirección sin que una persona valore sus circunstancias.

Servicios públicos

Dónde ayuda la herramienta
Orientar hacia el servicio adecuado, responder preguntas frecuentes, ordenar expedientes según estén completos.
Dónde hace falta revisión humana
Conceder o denegar una ayuda, estimar el «riesgo» y cualquier decisión que afecte al derecho a un servicio esencial.
Señal de alto
Que una persona reciba una decisión sin un motivo comprensible ni una vía clara para pedir revisión humana.

Antes de confiar en una herramienta, pregunta

  1. ¿A quién afecta el resultado? ¿Sabe que participó una herramienta?
  2. ¿Qué datos se usaron? ¿Son necesarios y correctos?
  3. ¿Puede una persona autorizada cambiar el resultado?
  4. ¿Qué pasa si la herramienta se equivoca y quién asume el coste?

Pruébalo tú

En el ejercicio interactivo revisas una decisión clasificada por un sistema automatizado y descubres lo que pasó por alto.

Ir al ejercicio →

Cuando están en juego los derechos de las personas

Mustanef: una guía sobre tu derecho a saber y a recurrir cuando un sistema automatizado decide sobre ti, y un expediente con hechos y fuentes.

Abrir la guía de derechos (abre otro sitio)

Del ecosistema DJAIRI

Plataformas que continúan lo que empiezas aquí.

Portal DJAIRI (abre otro sitio)