چارچوبی تازه می‌سنجد آیا امتیاز عامل هوش مصنوعی واقعاً قابل اعتماد است

امتیاز بنچمارک نشان می‌دهد یک عامل هوش مصنوعی قبول شده، اما به‌تنهایی روشن نمی‌کند که نتیجه با شواهد به‌دست آمده، ادعای عامل دربارهٔ انجام کار درست بوده یا نتیجه در اجرای دوباره تکرار می‌شود. پژوهشگران در پیش‌چاپی در arXiv چارچوبی به نام Trust Layer for Agent Evaluation معرفی کرده‌اند که پس از ارزیابی، در کنار هر امتیاز گزارش می‌دهد تا چه اندازه باید به آن اعتماد کرد؛ این چارچوب امتیاز ثبت‌شده را تغییر نمی‌دهد.

Trust Layer چهار موضوع را بررسی می‌کند: سازگاری نتیجه با منطق نمره‌دهی خود بنچمارک، وجود محاسبات قابل‌ردیابی برای پاسخ قبول‌شده، هم‌خوانی ادعای عامل دربارهٔ تکمیل کار با آنچه رخ داده و پایداری نتیجه در اجراهای تکراری. سه بررسی نخست فقط به آثار ذخیره‌شده متکی‌اند؛ بررسی پایداری مستلزم اجرای دوبارهٔ عامل است. داوری مدل‌ها صرفاً برای برچسب‌گذاری شواهد با رأی اکثریت به کار می‌رود و حکم نهایی بر پایهٔ قواعد قطعی صادر می‌شود.

پژوهشگران این چارچوب را روی پنج پیکربندی عامل و ۱۰۸ وظیفه از Agents’ Last Exam آزمودند. در همهٔ مدل‌ها، مواردی از قبولی بدون محاسبات قابل‌ردیابی و ادعاهای نادرست دربارهٔ تکمیل کار دیده شد. همچنین، پس از پنج بار اجرا، امتیاز ۱۸ تا ۴۶ درصد از وظایف در یک بازهٔ امتیازی ثابت نماند. در مجموع، ۲۲٫۶ درصد از ۸۴ نتیجهٔ قبول‌شده همهٔ چهار بررسی را گذراندند؛ فاصلهٔ اطمینان ۹۵درصدی این برآورد ۱۵ تا ۳۲٫۶ درصد گزارش شده است. نویسندگان می‌گویند سنجش توانایی عامل و تأیید اینکه واقعاً آن توانایی را به کار برده، دو مسئلهٔ جداگانه‌اند و بنچمارک‌های فعلی فقط اولی را می‌سنجند.