پژوهش: حفاظ‌های پیش‌بینانه همیشه عامل‌های زبانی را ایمن‌تر نمی‌کنند

عامل‌های مبتنی بر مدل‌های زبانی بزرگ در محیط‌های دیجیتال و فیزیکی اقدام‌هایی انجام می‌دهند که خطرهایشان ممکن است پس از چند مرحلهٔ تعامل آشکار شود. به همین دلیل، پژوهشگران به حفاظ‌های ایمنی پیش‌بینانه روی آورده‌اند؛ سامانه‌هایی متکی بر «مدل جهان» که می‌کوشند پیامدهای احتمالی را پیش از اجرا پیش‌بینی کنند.

نویسندگان این پیش‌چاپ می‌گویند ارزیابی‌های پیشین عمدتاً نتیجهٔ نهایی ایمنی را سنجیده‌اند و روشن نکرده‌اند که بهبود احتمالی از پیش‌بینی دقیق ناشی شده یا از استفادهٔ درست از خطرهای پیش‌بینی‌شده. پژوهش آن‌ها زنجیرهٔ پیش‌بینی تا اقدام را در سه بُعد بررسی می‌کند: نحوهٔ واردشدن پیش‌بینی‌های مدل جهان به تصمیم‌گیری، قابل‌اعتمادبودن خود پیش‌بینی‌ها و میزان وفاداری عامل به محتوای آن‌ها. چکیدهٔ در دسترس از جزئیات نتایج یا تعداد محیط‌های ارزیابی‌شده فراتر نمی‌رود.