本文へ移動
人道のためのAIDJAIRI · 人を第一に
日本語

第2の入口 · インタラクティブ練習

決定を見直す

この事例は架空ですが、よく知られたパターンに基づいています。2分間、責任ある人として自動化された決定を見直してみましょう。

学習用の架空の事例です。名前と数字は架空のものです。

「ライラ」さん一家 — 通学交通費支援の申請

  1. 1決定
  2. 2データ
  3. 3欠けていたもの
  4. 4見直し方
  5. 5あなたの依頼

この決定が届きました

システムの結果

優先度 低 — 待機リスト:6か月

算出された適格性スコア:41 / 100

ライラさんは2人の子どもの通学交通費の支援を申請しました。自動化システムが「適格性スコア」で申請に順位をつけ、職員は結果を変えずに承認しました。

判断する前に:なぜこのスコアになったのか、わかりますか?

システムが頼った情報

各カードをタップすると、その情報の出どころと日付が見られます。

  • 昨年の申告から。父親が失業する前のもの。

  • 同居する祖母が含まれていない古い登録から。

  • 地図上の直線で測ったもので、実際の徒歩ルートではない。

  • 医療報告書を求める手紙が送られたが、一家には届かなかった。

  • 「依存指数」に数えられ、スコアを下げている。

システムが見落としたものは?決定の前に知っておくべきだったものをすべて選び、「確認」を押してください。

正解:システムは一家の今の状況を反映しない古い収入を使いました。

正解:これは交通支援が必要な中心的な理由で、届かなかった手紙で求められた報告書に書かれていました。

正解:地図上の距離では道の危険はわかりません。

無関係:手に入る情報がすべて役立つわけではなく、集めればプライバシーを無意味に損ないます。

正解:ここでの「書類不備」は連絡の失敗であり、一家の怠慢ではありません。

不適切:適格性に国籍や出自を使うことは差別であり、ニーズとは関係ありません。

この決定をどう見直しますか?適切だと思う手順を選び、「選択を評価」を押してください。

基本:知らないことに異議は申し立てられません。

効果的:決定は古い、または不完全なデータに基づいていました。

不可欠:形だけの承認は人による見直しではありません。

不適切:システムの正確さはデータ次第で、ここではデータが不完全です。

たいてい効果なし:同じ結果になり、不利に数えられることさえあります。

重要:期限が過ぎる前に次の一歩を知っておきましょう。

依頼文ができました

この見直し依頼文は、あなたの選択をもとに作られています。実際の状況に合わせて直し、不要な機微情報は加えないでください。

件名:通学交通費支援の決定についての説明と、人による見直しのお願い

以下のとおりお願いいたします:
1. 決定の理由、使われたデータとその出どころを書面でお知らせください。また、自動化システムが関わったかどうかもお知らせください。
2. 決定の根拠となったデータを訂正してください。現在の収入を示す書類と、ご要望の医療報告書を添付します。報告書を求めるお手紙は私のもとに届いていません。
3. データの訂正後、決定を変更する権限のある職員に申請の見直しを依頼してください。
4. 決定が変わらない場合は、申し立て先とその期限をお知らせください。

添付:[現在の収入] [医療報告書]
よろしくお願いいたします。
[氏名] — [連絡先]

学んだこと

  • システムの正確さは、そのデータの正確さを超えない。
  • 確かめずに結果を承認するのは、人による見直しではない。
  • 手に入る情報がすべて役立つわけでも、使ってよいわけでもない。

1 / 5

ここから先へ

ツールに頼る前に問う

  1. 結果の影響を受けるのは誰か?その人はツールが関わったことを知っているか?
  2. どんなデータが使われたか?それは必要で正確か?
  3. 権限のある人が結果を変えられるか?
  4. ツールが誤ったらどうなるか?その代償を払うのは誰か?

技術の影響を知る → · 体験を伝える →

デジタル・ジャザリー ネットワークから

ここで始めた歩みを続けるプラットフォーム。

DJAIRI ポータル (別のサイトが開きます)