حملهٔ «Slot Attack» می‌تواند مدل‌های تصمیم‌گیر را به گزینهٔ نادرست بکشاند

پژوهشگران در پیش‌چاپی با عنوان «JevBreak: Your Model, Their Decision» روشی به نام Slot Attack معرفی کرده‌اند که بدون دسترسی داخلی به مدل، متن‌هایی را به شواهد ورودی می‌افزاید تا مدل را به انتخاب گزینهٔ نادرستِ مدنظر مهاجم سوق دهد. این حمله فقط به احتمال‌هایی متکی است که مدل برای برچسب‌های پاسخ برمی‌گرداند.

ارزیابی روی هفت مدل تصمیم‌گیر، شامل سرویس‌های میزبانی‌شده، مدل‌های دارای وزنِ باز و یک encoder، انجام شد. پژوهشگران ۱۶ وظیفه در هفت حوزه از Decision Bench را بررسی کردند و در ۲۴۰ نمونهٔ متنی، همهٔ گزینه‌های نادرست را هدف گرفتند؛ در مجموع، برای هر مدل ۹۹۰ هدف آزموده شد. بر اساس چکیدهٔ در دسترس، نرخ موفقیت حمله در نمونه‌هایی که در ابتدا پاسخ درست داشتند، بین ۳۲ تا ۹۹ درصد گزارش شده است.