مدلی برای تفسیر جهت‌های پنهان در مدل‌های زبانی، متن‌های فعال‌کننده می‌سازد

برای فهمیدن اینکه یک جهت در جریان باقیماندهٔ مدل زبانی با چه مفهومی ارتباط دارد، می‌توان متن‌هایی را پیدا کرد که آن جهت را به‌شدت فعال می‌کنند. اما جست‌وجو در یک پیکره به محتوای همان پیکره محدود می‌ماند. پژوهشی تازه در arXiv روشی به نام Maximally-Activating Example Metamodels یا MAEM معرفی می‌کند که جهت‌های جریان باقیماندهٔ یک مدل را به نمونه‌های متنیِ فعال‌کنندهٔ آن تبدیل می‌کند.

MAEM با یک هدف یادگیری تقویتیِ بدون برچسب آموزش می‌بیند: بیشینه‌کردن شباهت کسینوسی میان جهتِ ورودی و فعال‌سازیِ متن تولیدشده در مدلِ مورد بررسی. نویسندگان می‌گویند این روش به آن‌ها امکان داده متامدل را روی مجموعه‌های متنوع‌تری از جهت‌ها به‌کار بگیرند.

در ارزیابی‌های گزارش‌شده، یک MAEM مبتنی بر Qwen3.6-27B در بازسازی فعال‌سازی‌های کنارگذاشته‌شده بهتر از جست‌وجوی پیکره و رمزگذار خودکار زبان طبیعی (NLA) عمل کرد. این مدل همچنین در بیشتر زبان‌ها و حوزه‌های ارزیابی‌شده، با جست‌وجو در پیکره‌ای شامل ۱۰ میلیون توکن رقابت کرد و ۸۹ درصد از ویژگی‌های کنارگذاشته‌شدهٔ SAE را فعال کرد. پژوهشگران می‌گویند MAEM در شناسایی مفاهیمِ پشت بردارهای هدایت تقریباً هم‌سطح NLA بود و محتوای پشت‌پرده‌های LoRA را نیز بیشتر از جست‌وجوی پیکره بازیابی کرد. مدل در برخی موارد توانست گفت‌وگوی درونیِ فضای کاری مدل را هم به زبان بیاورد.

به‌گفتهٔ نویسندگان، نمونه‌های MAEM را می‌توان با اجرای متن تولیدشده در مدل اصلی راستی‌آزمایی کرد؛ قابلیتی که آن را از توضیح‌های متامدل‌هایی مانند NLA متمایز می‌کند. مقاله در نسخهٔ پیش‌چاپ منتشر شده است و نتایج آن، یافته‌های گزارش‌شده در همان پژوهش‌اند.