چرا اصول اخلاقی هوش مصنوعی در عمل محقق نمی‌شوند؟

پژوهشی منتشرشده در arXiv با بررسی تجربهٔ طراحان و ناظران سامانه‌های هوش مصنوعیِ مقابله با قاچاق انسان، توضیح دیگری برای فاصلهٔ میان اصول اخلاقی و عملکرد واقعی این سامانه‌ها ارائه می‌کند. نویسندگان بر پایهٔ ۱۴ مصاحبهٔ نیمه‌ساختاریافته با افرادی از حوزه‌های اجرای قانون، شرکت‌های تجاری، پژوهش و حمایت از بازماندگان می‌گویند این فاصله الزاماً از کمبود تعهد اخلاقی یا ضعف در رعایت دستورالعمل‌ها ناشی نمی‌شود.

به‌گفتهٔ پژوهشگران، شرایط نهادی و حرفه‌ای بر این اثر می‌گذارد که افراد کدام مسئله‌ها را اخلاقی و نیازمند اقدام تشخیص دهند. آن‌ها چهار مرحلهٔ به‌هم‌پیوسته را دنبال می‌کنند: تشخیص مسئله، داوری دربارهٔ آن، اقدام در بستر مشخص و سرانجام ثبت آن در ابزارهای فنی یا سازوکارهای حکمرانی. در این فرایند، برخی نگرانی‌ها وارد طراحی می‌شوند، اما برخی دیگر محدود، به تعویق‌افتاده یا اجرا‌نشده باقی می‌مانند.

مقاله نتیجه می‌گیرد که حکمرانی مسئولانهٔ هوش مصنوعی به زیرساخت‌های دانشیِ سنجیده نیاز دارد؛ زیرساخت‌هایی که بتوانند محدودیت‌های ناشی از نقش‌ها و نهادهای مختلف را پشت سر بگذارند و دانش جوامع متأثر و آگاهی از آسیب‌های احتمالی را به بخشی پذیرفتنی و قابل‌اقدام در طراحی تبدیل کنند. این مقاله پیش‌چاپ است.