پژوهشگران روش SecPO را برای مقاوم‌سازی عامل‌های هوش مصنوعی در برابر تزریق دستور پیشنهاد کردند

تزریق دستور (prompt injection) به مهاجم امکان می‌دهد با جاسازی دستور در داده‌های نامطمئن، مانند ایمیل، سند یا وب‌سایت، رفتار عامل هوش مصنوعی را دست‌کاری کند. نویسندگان پیش‌چاپ SecPO می‌گویند حتی Meta-SecAlign، که آن را بهترین مدل دفاع‌شدهٔ موجود توصیف می‌کنند، در برابر حمله‌های تطبیقی نرخ موفقیت حمله‌ای نزدیک به ۱۰۰ درصد دارد.

به‌گفتهٔ پژوهشگران، یکی از علت‌های این ضعف آن است که تابع زیان DPO مدل را به مدل مرجعِ بدون دفاع و ناامن گره می‌زند. آن‌ها می‌گویند می‌توان توزیع خروجی یک مدل مرجعِ آرمانی را که در برابر تزریق دستور تغییرناپذیر است و کارایی را حفظ می‌کند، در فرایند آموزش تقریب زد؛ مشاهده‌ای که مبنای پیشنهاد تابع زیان SecPO است. متن در دسترس منبع در میانهٔ توضیح دربارهٔ یکی دیگر از کاستی‌های Meta-SecAlign قطع می‌شود، بنابراین جزئیات آن و نتایج ارزیابی SecPO مشخص نیست.