چارچوبی برای تنظیم‌پذیر کردن ایمنی مدل‌های زبانی در زمان اجرا

پژوهشگران در مقاله‌ای که در arXiv منتشر شده و به پذیرش NeurIPS 2026 رسیده است، چارچوب UpSafe°C را برای تقویت ایمنی مدل‌های زبانی بزرگ معرفی کرده‌اند. این روش لایه‌های حساس به ایمنی را شناسایی و به ساختار تنک Mixture-of-Experts تبدیل می‌کند؛ در این ساختار، روتر به‌عنوان نوعی محافظ نرم، فعال‌سازی شبکه‌های MLP اصلی یا متخصصان ایمنیِ افزوده‌شده را انتخاب می‌کند.

این چارچوب همچنین از راهبردی دومرحله‌ای برای نظارت دقیق (SFT) بهره می‌برد تا توانایی تشخیص محتوای ناایمن را تقویت کند و در عین حال قابلیت‌های عمومی مدل را حفظ کند. پژوهشگران برای کنترل هنگام اجرا، سازوکاری به نام «دمای ایمنی» نیز پیشنهاد کرده‌اند که به گفتهٔ آن‌ها امکان تنظیم تعادل میان ایمنی و کارایی را می‌دهد.

بر اساس چکیدهٔ مقاله، آزمایش‌ها روی چندین معیار ارزیابی، مدل پایه و مقیاس مختلف، بهبود ایمنی در برابر ورودی‌های زیان‌بار و حملات jailbreak را نشان داده‌اند؛ عملکرد مدل‌ها در وظایف عمومی نیز رقابتی باقی مانده است. نویسندگان این رویکرد را حرکتی از هم‌ترازی ایستا به‌سوی کنترل پویا و ماژولار در زمان استنتاج توصیف می‌کنند.