跳到内容
人道主义人工智能DJAIRI · 以人为先
中文

第二个入口 · 互动练习

复核一项决定

这个案例是虚构的,但基于已知的模式。花两分钟,像一个负责任的人那样复核一项自动化决定。

用于学习的虚构案例;姓名和数字均为虚构。

“莱拉”一家 — 校车交通补助申请

  1. 1决定
  2. 2数据
  3. 3缺失了什么
  4. 4如何复核
  5. 5你的请求

收到了这个决定

系统结果

低优先级 — 等候名单:6 个月

计算出的资格分数:41 / 100

莱拉为两个孩子上学的交通申请补助。一个自动化系统按“资格分数”给申请排序,一名职员未作修改便确认了结果。

在下判断之前:你知道为什么得到这个分数吗?

系统所依据的信息

点击每张卡片,查看该信息的来源和日期。

  • 来自去年的申报,那时父亲还没有失业。

  • 来自旧登记,没有包括与他们同住的祖母。

  • 按地图上的直线距离计算,而不是实际步行路线。

  • 曾通过一封信索要医疗报告,但这封信从未送达这家人。

  • 被计入“依赖指数”,拉低了分数。

系统遗漏了什么?选出作出决定前本应知道的一切,然后点击“核对”。

正确:系统使用了旧收入,不能反映这家人现在的状况。

正确:这是交通需要的核心因素,写在那份索要信从未送达的报告里。

正确:地图上的距离显示不出路线的危险。

无关:并非所有能获得的信息都有用,收集它只会无谓地侵犯隐私。

正确:这里的“材料不完整”是沟通失误,而不是这家人的疏忽。

不允许:在资格评定中使用国籍或出身属于歧视,与需要无关。

你会如何复核这项决定?选择你认为合适的步骤,然后点击“评估我的选择”。

基本:你无法对自己不知道的东西提出异议。

有效:决定建立在过时或不完整的数据上。

必要:形式上的确认不是人工复核。

不合适:系统的准确度取决于数据,而这里的数据不完整。

通常无效:会得到同样的结果,甚至可能对你不利。

重要:在期限届满前了解下一步。

你的请求已准备好

这份复核请求根据你的选择生成。请按你的实际情况修改,不要添加不必要的敏感数据。

主题:请求说明并由人工复核校车交通补助决定

恳请:
1. 请以书面形式告知我该决定的理由、所使用的数据及其来源,并说明是否有自动化系统参与其中。
2. 请更正作为决定依据的数据;随函附上当前收入证明和所要求的医疗报告,索要该报告的信件我从未收到。
3. 请在更正数据后,将申请交由有权更改决定的职员复核。
4. 如果决定维持不变,请告知我申诉的受理机构和期限。

附件:[当前收入] [医疗报告]
此致
[姓名] — [联系方式]

我们学到了什么

  • 系统的准确度不会超过它的数据。
  • 不经核查就确认结果,不是人工复核。
  • 并非所有能获得的信息都有用或被允许使用。

1 / 5

从这里继续

依靠任何工具之前,先问

  1. 谁会受到结果影响?他知道有工具参与其中吗?
  2. 使用了哪些数据?它们必要且准确吗?
  3. 有权限的人能否更改结果?
  4. 如果工具出错会怎样?谁来承担代价?

了解技术的影响 → · 分享你的经历 →

来自数字贾扎里网络

继续你在这里开始的旅程的平台。

DJAIRI 门户 (将打开另一个网站)