پژوهشگران می‌گویند می‌توان فعال‌سازی‌های پاسخ مدل‌های زبانی را پیش از تولید نخستین واژه پیش‌بینی کرد

پژوهشگران در پیش‌چاپی در arXiv روشی به نام «فرادل‌های زمینه–پاسخ» معرفی کرده‌اند که با استفاده از فعال‌سازی‌های مدل زبانی هنگام خواندن زمینه، فعال‌سازی‌های پاسخ‌های احتمالی را پیش‌بینی می‌کند؛ پیش از آنکه نخستین توکن پاسخ تولید شود. این روش می‌تواند نیاز به اجرای مکرر و پرهزینهٔ مدل برای مشاهدهٔ پاسخ‌های متفاوت به یک ورودی را کاهش دهد.

چهار خانوادهٔ فرادل بررسی‌شده، بنا بر چکیدهٔ پژوهش، فعال‌سازی‌های میانگین‌گیری‌شدهٔ پاسخ را با دقت بالا پیش‌بینی کردند. نسخه‌هایی که توزیع احتمالات را پیش‌بینی می‌کنند، تغییرپذیری میان اجراهای مختلف را نیز بازتاب می‌دهند. عملکرد با افزایش مجموعهٔ آموزشی تا ۵۰۰ هزار prompt بهتر شد و مدل‌ها در آزمون‌های خارج از دامنه نیز توانستند بدون آموزش اختصاصی تعمیم دهند.

پژوهشگران همچنین می‌گویند پیش‌بینی‌ها نشانه‌هایی مرتبط با رفتار پاسخ‌ها را حفظ می‌کنند. در یک آزمون انتقال میان‌مدلی، فعال‌سازی‌های زمینه از Qwen2.5 برای پیش‌بینی فعال‌سازی‌های میانگین‌گیری‌شدهٔ پاسخ در Qwen3.5 و Gemma 4 به کار رفت. این مقاله در arXiv منتشر شده و نتایج آن در قالب پیش‌چاپ گزارش شده‌اند.