هدایت رفتاری مدل‌های زبانی می‌تواند لحن و شیوهٔ استدلال متن را هم تغییر دهد

پژوهشی منتشرشده در arXiv بررسی می‌کند که Activation Steering چگونه بر خروجی مدل‌های زبانی بزرگ اثر می‌گذارد. این روش هنگام استنتاج، با افزودن یک بردار به فعال‌سازی‌های residual stream، رفتار، لحن یا ویژگی‌های ایمنی مدل را تغییر می‌دهد؛ بدون آنکه وزن‌های مدل بازآموزی یا متن ورودی ویرایش شود.

به‌گزارش نویسندگان، این مداخله تغییرهایی ناخواسته در متن تولیدشده نیز ایجاد می‌کند که لزوماً به رفتار هدف مربوط نیستند. آن‌ها می‌گویند پژوهش‌های قبلی این تغییرها را عمدتاً با شاخص‌های کلی مانند perplexity سنجیده‌اند، اما کارشان نشان می‌دهد Steering به‌طور نظام‌مند بر ابعاد گفتمانی متن، از جمله رسمیت، میزان استفاده از شواهد و ابهام، اثر می‌گذارد.

چکیدهٔ در دسترس می‌گوید پژوهشگران روشی برای مقابله با این تغییرها ارائه کرده‌اند، اما توضیح این روش در متن منبع موجود نیست. این مقاله پیش‌چاپ است.