Ir al contenido
IA HumanitariaDJAIRI · Las personas primero
ES

Segunda puerta · ejercicio interactivo

Revisar una decisión

El caso es ficticio pero se basa en situaciones conocidas. Dedica dos minutos a revisar una decisión automatizada como lo haría una persona responsable.

Caso ficticio con fines de aprendizaje; nombres y cifras inventados.

La familia de Laila — solicitud de ayuda al transporte escolar

  1. 1La decisión
  2. 2Sus datos
  3. 3Lo que faltó
  4. 4Cómo revisar
  5. 5Tu solicitud

Llegó esta decisión

Resultado del sistema

Prioridad baja — lista de espera: 6 meses

Puntuación de elegibilidad calculada: 41 de 100

Laila pidió ayuda para el transporte de sus dos hijos al colegio. Un sistema automatizado ordenó las solicitudes según una «puntuación de elegibilidad» y un funcionario aprobó el resultado sin cambios.

Antes de juzgar: ¿sabes por qué obtuvo esta puntuación?

La información en que se basó el sistema

Toca cada tarjeta para ver la fuente del dato y su fecha.

  • De la declaración del año pasado, antes de que el padre perdiera su empleo.

  • De un registro antiguo que no incluye a la abuela que vive con ellos.

  • Medida en línea recta sobre el mapa, no por el camino real a pie.

  • Se pidió un informe médico por una carta que nunca llegó a la familia.

  • Se cuenta en un «indicador de dependencia» que baja la puntuación.

¿Qué pasó por alto el sistema?Marca todo lo que debería haberse sabido antes de decidir y pulsa «Comprobar».

Correcto: el sistema usó ingresos antiguos que no reflejan la situación actual de la familia.

Correcto: es clave para la necesidad de transporte y figuraba en el informe cuya petición nunca llegó.

Correcto: la distancia en un mapa no refleja el peligro del trayecto.

No es pertinente: no todo dato disponible es útil, y recogerlo invade la privacidad sin beneficio.

Correcto: «documentación incompleta» aquí es un fallo de comunicación, no culpa de la familia.

No está permitido: usar la nacionalidad o el origen para la elegibilidad es discriminación y no tiene que ver con la necesidad.

¿Cómo revisarías la decisión?Elige los pasos que te parezcan adecuados y pulsa «Valorar mi elección».

Fundamental: no puedes recurrir lo que no conoces.

Eficaz: la decisión se basó en datos antiguos o incompletos.

Necesario: aprobar un resultado por trámite no es revisión humana.

No adecuado: un sistema es tan preciso como sus datos, y aquí están incompletos.

Suele ser inútil: obtendrá el mismo resultado e incluso puede contar en tu contra.

Importante: conoce la siguiente vía antes de que venza el plazo.

Tu solicitud está lista

Aquí tienes una solicitud de revisión basada en tus elecciones. Adáptala a tu situación real y no añadas datos sensibles innecesarios.

Asunto: Solicitud de explicación y revisión humana de la decisión sobre ayuda al transporte escolar

Les ruego que:
1. Me indiquen por escrito los motivos de la decisión, los datos utilizados y su origen, y si participó un sistema automatizado.
2. Corrijan los datos considerados; adjunto pruebas de mis ingresos actuales y el informe médico solicitado, cuya carta de petición nunca me llegó.
3. Remitan la solicitud a un funcionario facultado para modificar la decisión, para revisarla una vez corregidos los datos.
4. Me informen del órgano ante el que puedo reclamar y del plazo si la decisión no cambia.

Adjunto: [ingresos actuales] [informe médico]
Atentamente,
[Nombre] — [Datos de contacto]

Lo que aprendimos

  • Un sistema es tan preciso como sus datos.
  • Aprobar un resultado sin examinarlo no es revisión humana.
  • No todo dato disponible es útil o está permitido.

1 / 5

Sigue desde aquí

Antes de confiar en una herramienta, pregunta

  1. ¿A quién afecta el resultado? ¿Sabe que participó una herramienta?
  2. ¿Qué datos se usaron? ¿Son necesarios y correctos?
  3. ¿Puede una persona autorizada cambiar el resultado?
  4. ¿Qué pasa si la herramienta se equivoca y quién asume el coste?

Entender el impacto → · Comparte tu experiencia →

Del ecosistema DJAIRI

Plataformas que continúan lo que empiezas aquí.

Portal DJAIRI (abre otro sitio)