本文へ移動
人道のためのAIDJAIRI · 人を第一に
日本語

第1の入口

技術の影響を知る

同じツールが、ある場面では役立ち、別の場面では害になることがあります。これらの例は、技術が理解を広げる場面と、状況を知る人に判断を委ねるべき場面を示します。

教育・仕事・公共サービスの例:ツールが役立つところと、人による見直しが必要なところ。

信号:ツールに頼ってよいのはいつ?

青:使って、手早く確かめる

よく知っている文章の要約、アイデアの整理、言い回しの提案、誰の権利も損なわない作業の段取り。

黄:人による見直しと一緒に使う

頼ったり公開したりする情報、誰かの仕事の評価、子どもなど配慮が必要な対象向けの内容。

赤:決めるのは責任ある人

サービス・仕事・教育・保護を受ける権利に影響する決定、個人データや健康データに頼る決定、取り消しが難しい決定。

3つの分野の例

教育

ツールが役立つところ
段階的な練習問題の提案、概念をいろいろな方法で説明、教員が活動に変化をつける手助け。
人による見直しが必要なところ
生徒の理解の評価、学問的誠実さの判断、一人ひとりのニーズに合わせた指導。
立ち止まるサイン
教員が課題を見直さないまま、ツールだけで生徒の成績を決めたり「できない子」とラベルを貼ったりすること。

仕事

ツールが役立つところ
やりとりの整理、下書きの作成、会議の要約、個人を含まないデータの分析。
人による見直しが必要なところ
採用、昇進、人事評価、そして人の生計を変えるあらゆる決定。
立ち止まるサイン
経歴の空白や住所を理由に、自動化システムが応募者を除外し、誰もその人の事情を考えないこと。

公共サービス

ツールが役立つところ
利用者を適切なサービスへ案内、よくある質問への回答、書類の完全さによる整理。
人による見直しが必要なところ
支援申請の承認・却下、「リスク」の評価、基本的なサービスを受ける権利に影響するあらゆる決定。
立ち止まるサイン
理解できる理由も、人による見直しを求める明確な方法もないまま、市民に決定が届くこと。

ツールに頼る前に問う

  1. 結果の影響を受けるのは誰か?その人はツールが関わったことを知っているか?
  2. どんなデータが使われたか?それは必要で正確か?
  3. 権限のある人が結果を変えられるか?
  4. ツールが誤ったらどうなるか?その代償を払うのは誰か?

この考え方を自分で試す

インタラクティブな練習で、自動化システムが順位をつけた決定を見直し、見落とされたものを見つけます。

練習へ進む →

デジタル・ジャザリー ネットワークから

ここで始めた歩みを続けるプラットフォーム。

DJAIRI ポータル (別のサイトが開きます)