Ir para o conteúdo
IA HumanitáriaDJAIRI · As pessoas primeiro
PT

Segunda porta · exercício interativo

Revisar uma decisão

O caso é fictício, mas se baseia em situações conhecidas. Reserve dois minutos para revisar uma decisão automatizada como faria uma pessoa responsável.

Caso fictício para aprendizagem; nomes e números inventados.

A família de Laila — pedido de auxílio para transporte escolar

  1. 1A decisão
  2. 2Os dados
  3. 3O que faltou
  4. 4Como revisar
  5. 5Seu pedido

Esta decisão chegou

Resultado do sistema

Prioridade baixa — lista de espera: 6 meses

Pontuação de elegibilidade calculada: 41 de 100

Laila pediu auxílio para o transporte dos dois filhos até a escola. Um sistema automatizado ordenou os pedidos por uma “pontuação de elegibilidade”, e um servidor aprovou o resultado sem alterações.

Antes de julgar: você sabe por que essa pontuação foi dada?

As informações em que o sistema se baseou

Toque em cada cartão para ver a fonte da informação e a data.

  • Da declaração do ano passado, antes de o pai perder o emprego.

  • De um registro antigo que não inclui a avó que mora com eles.

  • Medida em linha reta no mapa, não pelo caminho real a pé.

  • Um laudo médico foi pedido por uma carta que nunca chegou à família.

  • Contado num “indicador de dependência” que reduz a pontuação.

O que o sistema deixou de ver?Marque tudo o que deveria ser conhecido antes da decisão e toque em “Verificar”.

Correto: o sistema usou uma renda antiga que não reflete a situação atual da família.

Correto: isso é central para a necessidade de transporte e estava no laudo cujo pedido nunca chegou.

Correto: a distância no mapa não mostra o perigo do trajeto.

Não relevante: nem toda informação disponível é útil, e coletá-la invade a privacidade sem benefício.

Correto: “documentação incompleta” aqui é uma falha de comunicação, não culpa da família.

Não é permitido: usar nacionalidade ou origem na elegibilidade é discriminação e não tem relação com a necessidade.

Como você revisaria a decisão?Escolha os passos que considera adequados e toque em “Avaliar minha escolha”.

Essencial: não dá para contestar o que você não conhece.

Eficaz: a decisão se baseou em dados antigos ou incompletos.

Necessário: aprovar um resultado por formalidade não é revisão humana.

Não adequado: um sistema é tão preciso quanto seus dados, e aqui eles estão incompletos.

Em geral ineficaz: ele terá o mesmo resultado e pode até contar contra você.

Importante: conheça o próximo caminho antes de o prazo vencer.

Seu pedido está pronto

Aqui está um pedido de revisão com base nas suas escolhas. Adapte-o à sua situação real e não acrescente dados sensíveis desnecessários.

Assunto: Pedido de explicação e revisão humana da decisão sobre auxílio para transporte escolar

Solicito que:
1. Me informem por escrito os motivos da decisão, os dados usados e sua origem, e se um sistema automatizado participou dela.
2. Corrijam os dados considerados; anexo comprovantes da minha renda atual e o laudo médico solicitado, cuja carta de pedido nunca chegou até mim.
3. Encaminhem o pedido a um servidor autorizado a alterar a decisão, para revisão após a correção dos dados.
4. Me informem o órgão para reclamação e o prazo, caso a decisão continue inalterada.

Anexos: [renda atual] [laudo médico]
Atenciosamente,
[Nome] — [Contato]

O que aprendemos

  • Um sistema é tão preciso quanto seus dados.
  • Aprovar um resultado sem examiná-lo não é revisão humana.
  • Nem toda informação disponível é útil ou permitida.

1 / 5

Continue daqui

Antes de confiar em uma ferramenta, pergunte

  1. Quem é afetado pelo resultado? A pessoa sabe que uma ferramenta participou?
  2. Quais dados foram usados? São necessários e corretos?
  3. Uma pessoa autorizada pode mudar o resultado?
  4. O que acontece se a ferramenta errar, e quem paga o custo?

Entender o impacto → · Compartilhe sua experiência →

Do ecossistema DJAIRI

Plataformas que continuam o que você começa aqui.

Portal DJAIRI (abre outro site)