هوش مصنوعی
روش ERASE برای مقابله با تزریق پرامپت چندوجهی، بخش آلودهٔ رسانه را هدف می‌گیرد
پیش‌چاپی در arXiv روشی را معرفی می‌کند که دستور مخرب را در تصویر، صدا یا ویدئو حذف می‌کند، اما محتوای پیرامونیِ لازم برای انجام وظیفه را نگه می‌دارد.
تزریق غیرمستقیم پرامپت چندوجهی می‌تواند دستورهای مخرب را در رسانه‌های خارجی پنهان کند؛ رسانه‌هایی که هم‌زمان اطلاعات موردنیاز کاربر را نیز در خود دارند. به‌گفتهٔ پژوهشگران، برخی دفاع‌ها با مسدودکردن حمله، توانایی مدل در استفاده از همان اطلاعات را هم مختل می‌کنند.
روش پیشنهادی با نام ERASE، ناحیهٔ حاوی تزریق را در نسخه‌ای مرجع با محتوای خالیِ متناسب با هر رسانه جایگزین می‌کند و باقی رسانه را دست‌نخورده نگه می‌دارد. سپس دانش‌آموزی که رسانهٔ آلوده را می‌خواند، از یک مدل پایهٔ ثابت که نسخهٔ پاک‌شده را می‌بیند، بازخورد توکنیِ مبتنی بر توزیع کامل می‌گیرد؛ این بازخورد روی خروجی‌های خود مدل دانش‌آموز اعمال می‌شود.
چکیده می‌گوید ERASE روی تصویر، صدا و ویدئو و در دو اندازهٔ مدل ارزیابی شده است، اما متن موجود پس از عبارت «نزدیک به صفر» ناقص است و نتیجهٔ عددی یا جزئیات بیشتری از عملکرد ارائه نمی‌کند. این مقاله در arXiv منتشر شده و پیش‌چاپ است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده