پژوهشگران سیاستی برای تنظیم پویای اختیار عامل‌های هوش مصنوعی را آزمودند

پژوهشگران در پیش‌چاپی در arXiv، سیاستی به نام «مجوزدهی پاسخ‌گو به اعتماد» (TRAP) را برای تنظیم اختیار عملیاتی عامل‌های خودمختار بررسی کرده‌اند. این سیاست امتیاز آمادگی مجوزدهی (ARS) را—ترکیبی وزن‌دار از اعتماد لحظه‌ای، پایداری عملیاتی و ریسک زمینه‌ای—به چند سطح اختیار تبدیل می‌کند. در TRAP، افزایش اختیار به مشاهدات پیاپی بالاتر از مرز تعیین‌شده و یک حاشیهٔ اضافی نیاز دارد؛ اما افت شدید آمادگی، اختیار را بی‌درنگ کاهش می‌دهد.

در مقایسه‌ای بر پایهٔ ۱۰۰ ردپای شبیه‌سازی مونت‌کارلو، پژوهشگران TRAP را با سیاست‌های ثابت، مبتنی‌بر اعتماد، مبتنی‌بر ریسک و متقارن سنجیدند. هنگام افت ناگهانی، TRAP در همان آغاز اختیار را محدود کرد و پس از بازیابی، زودتر از سیاست متقارن دوباره اختیار را افزایش داد. این سیاست در میان روش‌های تطبیقی بالاترین پایداری را داشت و نوسان آن نیز به‌صورت توصیفی کمتر بود؛ بااین‌حال، در موارد بیشتری پس از بازیابی، اختیار را در سطحی بالاتر از آستانهٔ اعتماد انتخاب‌شده افزایش داد. فاصله‌های اطمینان بوت‌استرپ زوجی برای تفاوت‌های گزارش‌شده، به‌جز مواردی که در چکیده مشخص نشده، صفر را دربر نمی‌گیرند.

آزمایش‌های تک‌عاملی نشان دادند زمان بازیابی با افزایش حاشیهٔ لازم برای ارتقای اختیار و تعداد مشاهدات پیاپی بیشتر می‌شود، با وزن‌های امتیاز تغییر می‌کند و از آستانهٔ محدودسازی تأثیر نمی‌پذیرد. اما در یک آزمایش اکتشافی که پس از تثبیت نسخهٔ پژوهش انجام شد، وقتی افت آمادگی در بازه‌ای از ۵ تا ۲۰ فاصله پخش شد، TRAP فقط در چهار ردپا محدودسازی کرد؛ ردپاهایی که در آن‌ها افت یک‌فاصله‌ای همچنان از آستانه بیشتر بود. در مجموع ۱۰۰ ردپا، این سیاست طی ۱۵٫۹ تا ۱۸٫۹ فاصله از ۲۰ فاصلهٔ افت، اختیاری بالاتر از آنچه آمادگی پشتیبانی می‌کرد حفظ کرد؛ این مقدار برای افت ناگهانی ۰٫۸ فاصله و برای سیاست متقارن حدود ۱۰ فاصله بود. بنابراین، برتری TRAP در محدودسازی اختیار به ناگهانی‌بودن افت وابسته است. مقاله در arXiv منتشر شده و پیش‌چاپ است.