Перейти к содержанию
Гуманитарный ИИDJAIRI · Человек прежде всего
RU

Второй вход · Интерактивное упражнение

Пересмотреть решение

Этот случай вымышлен, но построен на известных закономерностях. Потратьте две минуты, чтобы пересмотреть автоматизированное решение так, как это сделал бы ответственный человек.

Вымышленный учебный случай; имена и цифры условны.

Семья «Лейлы» — заявка на помощь с транспортом до школы

  1. 1Решение
  2. 2Данные
  3. 3Чего не хватало
  4. 4Как пересмотреть
  5. 5Ваш запрос

Пришло такое решение

Результат системы

Низкий приоритет — очередь ожидания: 6 месяцев

Рассчитанный балл соответствия: 41 из 100

Лейла подала заявку на помощь с транспортом для двоих детей до школы. Автоматизированная система расставила заявки по «баллу соответствия», а сотрудник утвердил результат без изменений.

Прежде чем судить: знаете ли вы, почему поставлен такой балл?

Информация, на которую опиралась система

Нажмите на каждую карточку, чтобы увидеть источник и дату этих данных.

  • Из декларации за прошлый год — до того, как отец потерял работу.

  • Из старой записи, где нет бабушки, живущей с ними.

  • Измерено по прямой на карте, а не по реальному пешему маршруту.

  • Медицинскую справку запросили письмом, которое так и не дошло до семьи.

  • Засчитывается в «индекс зависимости» и снижает балл.

Что упустила система?Выберите всё, что нужно было знать до принятия решения, и нажмите «Проверить».

Верно: система взяла старый доход, который не отражает нынешнее положение семьи.

Верно: это главная причина потребности в транспорте, и она была в справке, запрос на которую так и не дошёл.

Верно: расстояние на карте не показывает опасность дороги.

Не относится к делу: не всякая доступная информация полезна, а её сбор без нужды вторгается в частную жизнь.

Верно: «неполные документы» здесь — сбой связи, а не небрежность семьи.

Недопустимо: учитывать гражданство или происхождение при определении права — дискриминация, не связанная с потребностью.

Как вы пересмотрите это решение?Выберите шаги, которые считаете уместными, и нажмите «Оценить мой выбор».

Основа: нельзя оспорить то, чего не знаешь.

Действенно: решение опиралось на устаревшие или неполные данные.

Необходимо: формальное утверждение — это не проверка человеком.

Неуместно: точность системы зависит от данных, а здесь они неполные.

Обычно бесполезно: результат будет тем же и может даже засчитаться против вас.

Важно: узнайте следующий шаг, пока не истёк срок.

Ваш запрос готов

Этот запрос на пересмотр составлен по вашему выбору. Адаптируйте его к своей реальной ситуации и не добавляйте лишних чувствительных данных.

Тема: запрос объяснения и пересмотра человеком решения о помощи с транспортом до школы

Прошу:
1. Сообщите мне письменно причины решения, использованные данные и их источник, а также участвовала ли в нём автоматизированная система.
2. Исправьте данные, на которых основано решение: прилагаю подтверждение текущего дохода и запрошенную медицинскую справку; письмо с запросом я так и не получила.
3. После исправления данных передайте заявку на пересмотр сотруднику, имеющему право изменить решение.
4. Если решение не изменится, сообщите, куда и в какой срок можно подать жалобу.

Приложения: [текущий доход] [медицинская справка]
С уважением,
[Имя] — [контакт]

Что мы узнали

  • Система не точнее своих данных.
  • Утвердить результат без проверки — не значит пересмотреть его.
  • Не всякая доступная информация полезна или допустима.

1 / 5

Что дальше

Прежде чем опираться на инструмент, спросите

  1. Кого затронет результат и знает ли этот человек, что в нём участвовал инструмент?
  2. Какие данные использовались и нужны ли они, верны ли они?
  3. Может ли уполномоченный человек изменить результат?
  4. Что будет, если инструмент ошибётся, и кто за это заплатит?

Понять влияние технологий → · Рассказать о своём опыте →

Из сети «Цифровой аль-Джазари»

Платформы, которые продолжают то, что вы начали здесь.

Портал DJAIRI (откроется другой сайт)