امنیت سایبری
پژوهشگران روش «ربایش منطق» برای مسموم‌سازی یک سند در سامانه‌های RAG معرفی کردند
چارچوب MONOLOGUE به‌جای رد آشکار واقعیت، آن را مبنای تاریخی معتبر می‌پذیرد و سپس روایتی برای اصلاح اطلاعات ارائه می‌کند.
پیش‌چاپی در arXiv چارچوبی به نام MONOLOGUE را برای مسموم‌سازی پیکره‌های تک‌سندی در سامانه‌های تولیدِ تقویت‌شده با بازیابی (RAG) معرفی می‌کند؛ حمله‌ای که در آن مهاجم به سامانه دسترسی جعبه‌سیاه دارد. نویسندگان می‌گویند روش‌های پیشین عمدتاً بر رد صریح واقعیت‌ها یا واردکردن دستورهای جایگزین تکیه می‌کنند، اما مدل‌های زبانی همسو ممکن است چنین تناقض‌هایی را نپذیرند و در عوض به حافظهٔ خود یا محتوای بازیابی‌شدهٔ سالم رجوع کنند؛ این روش‌ها همچنین ممکن است حفاظ‌های ورودی را فعال کنند.
MONOLOGUE به‌جای مناقشه با واقعیت پذیرفته‌شده، آن را به‌عنوان سابقه‌ای تاریخی و معتبر می‌پذیرد و سپس با روایتی مستندگونه، اطلاعات تازه را به‌صورت اصلاح سابقه وارد می‌کند. چکیدهٔ در دسترس نمونه‌ای از این روایت را «اصلاح سوابق نهادیِ تاریخ‌دار» ذکر می‌کند. اطلاعات ارائه‌شده دربارهٔ پیش‌چاپ، جزئیات بیشتری از ارزیابی یا نتایج آزمایش‌ها در اختیار نمی‌گذارد.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده