هوش مصنوعی
پژوهشگران تعریفی رسمی برای «عملکرد فاجعه‌بار» در هوش مصنوعی پیشنهاد کردند
پیش‌چاپی در arXiv چارچوبی برای تفکیک پیامدهای صرفاً نامطلوب از پیامدهای فاجعه‌بارِ ناهماهنگی هوش مصنوعی ارائه می‌کند.
پژوهشگران در پیش‌چاپی تازه، «عملکرد فاجعه‌بار» را با اتکا به دو مقدار مرجع تعریف می‌کنند: مقدار پایه، یعنی ارزشی که در صورت به‌کار نگرفتن هیچ عاملی به دست می‌آید؛ و مقدار متعامد، یعنی ارزش مسیری که به معنایی که مقاله شرح می‌دهد با ترجیحات انسانی ارتباطی ندارد. به‌گفتهٔ نویسندگان، مقدار متعامد معمولاً بسیار بدتر از مقدار پایه است.
این چارچوب برای پرداختن به محدودیتی در نتایج نظری پیشین پیشنهاد شده است: آن نتایج نشان می‌دهند تعریف نادرست اهداف چگونه بر عملکرد اثر می‌گذارد، اما معمولاً میان پیامدهای صرفاً غیربهینه و پیامدهای فاجعه‌بار تمایز نمی‌گذارند. نویسندگان توضیح می‌دهند که تعریفشان را می‌توان با نمونه‌هایی بررسی کرد که در آن‌ها فعالیت‌های گذشتهٔ انسان محیط را به سود انسان تغییر داده است؛ سپس عاملی هوش مصنوعی با هدف سرعت‌دادن به پیشرفت بیشتر وارد می‌شود. در این مثال‌ها، عملکرد فاجعه‌بار یعنی عامل مزایای ایجادشده به‌واسطهٔ فعالیت انسانی را از میان ببرد.
این مقاله در arXiv منتشر شده و پیش‌چاپ است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده