چارچوبی برای ردیابی سازوکارهای استدلال درونی مدل‌های زبانی معرفی شد

پژوهشگران در مقاله‌ای در arXiv چارچوبی به نام Integrated Policy Gradient (IPG) معرفی کرده‌اند که هدفش ردیابی اثر نورون‌ها و ویژگی‌های پراکنده در فرایندهای چندمرحله‌ای استدلال مدل‌های زبانی بزرگ است. نویسندگان می‌گویند روش‌های رایج تفسیرپذیری مکانیکی اغلب بر هم‌وقوعی الگوهای متنی تکیه دارند یا فقط اثرهای کوتاه‌مدت را می‌سنجند؛ در نتیجه، دنبال‌کردن تأثیر اجزای داخلی بر نتیجهٔ نهایی دشوار است.

IPG به آموزش دوباره نیاز ندارد و سیگنال‌های رفتاریِ مربوط به نتیجه—از جمله درست یا نادرست بودن پاسخ استدلالی—را در سراسر مسیر استنتاج دنبال می‌کند. این روش با ادغام اثرها در طول مسیر، میانجی‌های داخلی مرتبط با نتیجه را در سطح اجزا مشخص می‌کند. نویسندگان آن را تقریب خطی‌ای از «تحلیل میانجی‌گری علّی» (CMA) برای استدلال توصیف می‌کنند.

بر پایهٔ ارزیابی‌های تجربی گزارش‌شده در چکیده، IPG توانسته است زیرمجموعه‌های کم‌تعداد و متمرکزی از اجزای داخلی مرتبط با رفتارهای استدلالی مشخص را شناسایی کند. پژوهشگران همچنین می‌گویند این چارچوب امکان تعدیل توانایی‌های استدلالی را فراهم می‌کند. مقاله در arXiv به‌عنوان پیش‌چاپ منتشر شده و پذیرش آن در NeurIPS 2026 اعلام شده است.