Safin-1.5؛ مدلی برای بهبود بازگشتیِ ایمنی هوش مصنوعی

پژوهشگران در پیش‌چاپ Safin-1.5 رویکردی با عنوان «بهبود بازگشتی ایمنی» (Safety RSI) معرفی کرده‌اند: رویکردی که در آن مدل با کشف و ترمیم پیوستهٔ خطرها، ایمنی خود را همراه با توانایی‌های عمومی‌اش توسعه می‌دهد. انگیزهٔ این کار آن است که به‌روزرسانی‌های پیاپی برای بهبود توانایی مدل‌های زبانی بزرگ می‌توانند خطرهای تازه‌ای ایجاد کنند یا محافظت‌های موجود را تضعیف کنند.

Safin-1.5 بر پایهٔ معماری ایمنی ساخته و با فرایند بهبود بازگشتی ایمنی آموزش داده شده است. به گفتهٔ چکیدهٔ مقاله، این رویکرد حفظ کارایی مدل و محدودکردن امتناع‌های بیش‌ازحد را نیز دنبال می‌کند. همچنین یک سازوکار هنگام اجرا برای گسترش توانایی مدل در استدلال صوری به کار می‌رود. چکیدهٔ در دسترس تنها آغاز شرح اجزای روش را ارائه می‌کند و جزئیات کامل آن را نشان نمی‌دهد.