پژوهشگران از حملهٔ درِپشتی چندمرحله‌ای به سامانه‌های گفت‌وگوی پیش‌دستانهٔ مبتنی بر LLM خبر دادند

پژوهشگران چارچوبی برای حملهٔ درِپشتی تعاملی به سامانه‌های گفت‌وگوی پیش‌دستانهٔ مبتنی بر مدل‌های زبانی بزرگ معرفی کرده‌اند. در این روش، مکالمه‌های آلوده هنگام ریزتنظیم، سوگیری‌ای در سیاست راهنمایی مدل ایجاد می‌کنند که با یک محرک فعال می‌شود و در ادامهٔ گفت‌وگو رفتار مدل را به‌سوی هدف مهاجم هدایت می‌کند؛ بدون آنکه هنگام استقرار سامانه، دست‌کاری پرامپت یا مداخلهٔ دوبارهٔ مهاجم لازم باشد.

مقاله سه شکل از حمله را بررسی می‌کند: حملهٔ مستقیم که پاسخ مدل را بلافاصله پس از فعال‌شدن محرک منحرف می‌کند؛ حملهٔ پیش‌روندهٔ مقید که هدف را در مسیری چندمرحله‌ای و ازپیش‌تعریف‌شده دنبال می‌کند؛ و حملهٔ پیش‌روندهٔ نامقید که هدایت گفت‌وگو به‌سوی هدف مهاجم را در مکالمه‌های باز و با ادامه‌های متفاوت کاربر می‌آزماید.

پژوهشگران با استفاده از مشاورهٔ روان‌شناختی به‌عنوان نمونه، آزمایش‌ها را روی دو مدل پایه و دو مجموعه‌دادهٔ گفت‌وگو انجام دادند. به‌گزارش آن‌ها، هر سه حمله در سناریوی مربوط به خود به هدف رسیدند و در عین حال کارکرد عادی مدل را تا حد زیادی حفظ کردند. ارزیابی دفاعی نیز نشان داد فیلترهای دادهٔ آموزشیِ آزموده‌شده تقریباً همهٔ مکالمه‌های آلوده را عبور می‌دهند و سه روش دفاعیِ پس از پذیرش داده، موفقیت حمله را به‌طور کامل از بین نمی‌برند.

این مقاله نسخهٔ پیش‌چاپی است که در arXiv منتشر شده است.