Ir para o conteúdo
IA HumanitáriaDJAIRI · As pessoas primeiro
PT

Primeira porta

Entender o impacto

A mesma ferramenta pode ajudar em um lugar e prejudicar em outro. Estes exemplos mostram onde a tecnologia amplia nosso entendimento e onde o julgamento deve ficar com uma pessoa que conhece o contexto.

Exemplos da educação, do trabalho e dos serviços públicos: quando a ferramenta ajuda e quando é preciso revisão humana.

O semáforo: quando confiar na ferramenta?

Verde: use e confira rapidamente

Resumir um material que você conhece, organizar ideias, sugerir redações, ordenar tarefas que não afetam os direitos de ninguém.

Amarelo: use com revisão humana

Informação em que você vai se basear ou publicar, avaliação do trabalho de alguém ou material para um público sensível, como crianças.

Vermelho: uma pessoa responsável decide

Decisões que afetam o direito de alguém a um serviço, emprego, educação ou apoio, que usam dados pessoais ou de saúde, ou que são difíceis de reverter.

Exemplos de três áreas

Educação

Onde a ferramenta ajuda
Sugerir questões de prática graduadas, explicar um conceito de vários jeitos, ajudar o professor a variar as atividades.
Onde é preciso revisão humana
Avaliar a compreensão do estudante, julgar a integridade acadêmica, adaptar o ensino a cada aluno.
Sinal de parada
Uma ferramenta decidir sozinha a nota de um estudante ou rotulá-lo como “fraco” sem que o professor revise o trabalho.

Trabalho

Onde a ferramenta ajuda
Organizar a correspondência, redigir rascunhos, resumir reuniões, analisar dados não pessoais.
Onde é preciso revisão humana
Contratação, promoção e avaliação de desempenho, e qualquer decisão que mude o sustento de alguém.
Sinal de parada
Um sistema automatizado descartar um candidato por uma lacuna no currículo ou pelo endereço, sem que uma pessoa considere as circunstâncias.

Serviços públicos

Onde a ferramenta ajuda
Encaminhar as pessoas ao serviço certo, responder perguntas frequentes, organizar processos pela completude.
Onde é preciso revisão humana
Conceder ou negar um apoio, estimar “risco” e qualquer decisão que afete o direito a um serviço essencial.
Sinal de parada
Uma pessoa receber uma decisão sem motivo compreensível nem caminho claro para pedir revisão humana.

Antes de confiar em uma ferramenta, pergunte

  1. Quem é afetado pelo resultado? A pessoa sabe que uma ferramenta participou?
  2. Quais dados foram usados? São necessários e corretos?
  3. Uma pessoa autorizada pode mudar o resultado?
  4. O que acontece se a ferramenta errar, e quem paga o custo?

Experimente você mesmo

No exercício interativo você revisa uma decisão classificada por um sistema automatizado e descobre o que faltou.

Ir para o exercício →

Quando os direitos das pessoas estão em jogo

Mustanef: um guia sobre seu direito de saber e de contestar quando um sistema automatizado decide sobre você, e um dossiê com fatos e fontes.

Abrir o guia de direitos (abre outro site)

Do ecossistema DJAIRI

Plataformas que continuam o que você começa aqui.

Portal DJAIRI (abre outro site)