روشی برای شناسایی مدارهای عصبی پایدارتر در شبکه‌های عصبی معرفی شد

مقالهٔ «Certified Circuits: Stability Guarantees for Mechanistic Circuits» روشی برای کاهش شکنندگی در تفسیرپذیری مکانیکی شبکه‌های عصبی معرفی می‌کند. در روش‌های رایج، مدارهای شناسایی‌شده ممکن است به‌شدت به مجموعه‌دادهٔ مفهومی انتخاب‌شده وابسته باشند و در داده‌های خارج از توزیع عملکردشان را از دست بدهند؛ در نتیجه معلوم نیست مدار واقعاً مفهوم موردنظر را نشان می‌دهد یا فقط بازتاب ویژگی‌های همان مجموعه‌داده است.

چارچوب پیشنهادی، هر الگوریتم شناسایی مدار را با نمونه‌گیری تصادفی از داده‌ها همراه می‌کند و برای تصمیم دربارهٔ حضور اجزای مدار—نورون‌ها یا یال‌های گراف مدل، بسته به الگوریتم پایه—تضمین پایداری ارائه می‌دهد. این تضمین‌ها در برابر تغییرات مجموعه‌داده تا فاصلهٔ ویرایشیِ کران‌دار برقرارند؛ اجزایی که پایداری‌شان تأیید نمی‌شود کنار گذاشته می‌شوند.

پژوهشگران روش را روی ResNet، ViT و GPT-2 و در وظایف بینایی و زبان ارزیابی کرده‌اند؛ از جمله ImageNet و چهار مجموعه‌دادهٔ خارج از توزیع، و وظایف زبانی IOI، IOI-Hard و Greater-Than. طبق چکیدهٔ مقاله، مدارهای حاصل در بهترین حالت تا ۵۶ درصد دقت بالاتر و تا ۸۰ درصد اجزای کمتری نسبت به روش‌های پایه داشته‌اند و در مواردی که عملکرد روش‌های پایه افت می‌کرد، قابل‌اتکاتر مانده‌اند. مقاله در ICML 2026 منتشر شده است.