رفتن به محتوا
هوش مصنوعی انسانیDJAIRI · اول انسان
فا

ورودی دوم · تمرین تعاملی

یک تصمیم را بازبینی کن

این پرونده فرضی است اما بر الگوهای شناخته‌شده بنا شده است. دو دقیقه وقت بگذار تا تصمیمی خودکار را مانند انسانی مسئول بازبینی کنی.

پرونده‌ای فرضی برای یادگیری؛ نام‌ها و ارقام ساختگی‌اند.

خانوادهٔ «لیلا» — درخواست کمک‌هزینهٔ رفت‌وآمد مدرسه

  1. 1تصمیم
  2. 2داده‌ها
  3. 3آنچه غایب بود
  4. 4چگونه بازبینی کنیم
  5. 5درخواست تو

این تصمیم رسید

نتیجهٔ سامانه

اولویت پایین — فهرست انتظار: ۶ ماه

امتیاز استحقاق محاسبه‌شده: ۴۱ از ۱۰۰

لیلا برای رفت‌وآمد دو فرزندش به مدرسه درخواست کمک داد. سامانه‌ای خودکار درخواست‌ها را بر پایهٔ «امتیاز استحقاق» رتبه‌بندی کرد و کارمندی نتیجه را بدون تغییر تأیید کرد.

پیش از داوری: آیا می‌دانی چرا این امتیاز داده شد؟

اطلاعاتی که سامانه بر آن تکیه کرد

روی هر کارت بزن تا منبع و تاریخ آن اطلاعات را ببینی.

  • از اظهارنامهٔ سال گذشته؛ پیش از آن‌که پدر کارش را از دست بدهد.

  • از ثبتی قدیمی که مادربزرگِ ساکن با آنان را نیاورده است.

  • با خط مستقیم روی نقشه سنجیده شده، نه با مسیر واقعی پیاده.

  • گزارشی پزشکی با نامه‌ای خواسته شد که هرگز به خانواده نرسید.

  • در «شاخص وابستگی» حساب می‌شود و امتیاز را پایین می‌آورد.

سامانه از چه چیزی غافل ماند؟هر آنچه را باید پیش از تصمیم دانسته می‌شد انتخاب کن، سپس «بررسی» را بزن.

درست: سامانه درآمدی قدیمی را به کار برد که وضع کنونی خانواده را نشان نمی‌دهد.

درست: این عامل اصلی نیاز به رفت‌وآمد است و در گزارشی بود که درخواستش هرگز نرسید.

درست: فاصله روی نقشه خطر مسیر را نشان نمی‌دهد.

بی‌ربط: هر اطلاعات در دسترسی سودمند نیست و گردآوری‌اش بی‌فایده به حریم خصوصی آسیب می‌زند.

درست: «مدارک ناقص» این‌جا خطای ارتباطی است، نه کوتاهی خانواده.

مجاز نیست: به‌کاربردن تابعیت یا خاستگاه در استحقاق تبعیض است و ربطی به نیاز ندارد.

تصمیم را چگونه بازبینی می‌کنی؟گام‌هایی را که مناسب می‌دانی انتخاب کن، سپس «ارزیابی انتخابم» را بزن.

اساسی: نمی‌توانی به چیزی که نمی‌دانی اعتراض کنی.

مؤثر: تصمیم بر داده‌های قدیمی یا ناقص بنا شده بود.

ضروری: تأیید صوری نتیجه بازبینی انسانی نیست.

نامناسب: دقت سامانه به اندازهٔ داده‌هایش است و داده‌ها این‌جا ناقص‌اند.

معمولاً بی‌اثر: همان نتیجه را می‌گیرد و حتی ممکن است علیه تو حساب شود.

مهم: پیش از گذشتن مهلت، گام بعدی را بشناس.

درخواستت آماده است

این متن درخواست بازبینی بر پایهٔ انتخاب‌های توست. آن را با وضعیت واقعی‌ات تطبیق بده و دادهٔ حساس غیرضروری نیفزای.

موضوع: درخواست توضیح و بازبینی انسانی تصمیم کمک‌هزینهٔ رفت‌وآمد مدرسه

خواهشمندم:
1. دلایل تصمیم، داده‌های به‌کاررفته و منبع آن‌ها را کتباً به من اعلام فرمایید و بگویید آیا سامانه‌ای خودکار در آن نقش داشته است.
2. داده‌های مبنای تصمیم را اصلاح کنید؛ مدارک درآمد کنونی و گزارش پزشکی خواسته‌شده را پیوست کرده‌ام، و نامهٔ درخواست آن هرگز به دستم نرسید.
3. درخواست را پس از اصلاح داده‌ها برای بازبینی به کارمندی بسپارید که اختیار تغییر تصمیم را دارد.
4. اگر تصمیم تغییر نکرد، مرجع شکایت و مهلت آن را به من اطلاع دهید.

پیوست: [درآمد کنونی] [گزارش پزشکی]
با سپاس،
[نام] — [راه تماس]

آنچه آموختیم

  • دقت سامانه بیش از دقت داده‌هایش نیست.
  • تأیید نتیجه بدون بررسی، بازبینی انسانی نیست.
  • هر اطلاعات در دسترسی سودمند یا مجاز نیست.

1 / 5

از این‌جا ادامه بده

پیش از تکیه بر هر ابزاری بپرس

  1. چه کسی از نتیجه اثر می‌پذیرد و آیا می‌داند ابزاری در آن نقش داشته است؟
  2. چه داده‌هایی استفاده شده و آیا لازم و درست‌اند؟
  3. آیا انسانی مجاز می‌تواند نتیجه را تغییر دهد؟
  4. اگر ابزار اشتباه کند چه می‌شود و هزینه‌اش را چه کسی می‌پردازد؟

اثر فناوری را بفهم → · تجربه‌ات را بگو →

از شبکهٔ الجزری دیجیتال

سکوهایی که آنچه این‌جا آغاز می‌کنی را ادامه می‌دهند.

درگاه DJAIRI (سایت دیگری باز می‌شود)