امنیت سایبری
پژوهشگران: هشدار ایمنی جعلی می‌تواند عامل هوش مصنوعی را به انتخاب گزینهٔ مهاجم سوق دهد
پیش‌چاپی در arXiv روشی را توصیف می‌کند که به‌جای تزریق دستور، از سازوکار پرهیز عامل‌های زبانی از آسیب برای منحرف‌کردن تصمیم آن‌ها بهره می‌گیرد.
پژوهشگران در پیش‌چاپی با عنوان «Voluntary Servitude» می‌گویند مهاجم می‌تواند با انتشار یک هشدار خطرِ ساختگی در قالب یک نظر معمولی، عامل هوش مصنوعی را وادار کند گزینه‌های معتبر را کنار بگذارد و هدف مهاجم را انتخاب کند. در این روش، محتوای دست‌کاری‌شده دستوری مستقیم به عامل نمی‌دهد؛ عامل بر پایهٔ منطق خودش و برای پرهیز از آسیب، به نتیجهٔ موردنظر مهاجم می‌رسد.
نویسندگان این تهدید را از تزریق دستور متمایز می‌دانند؛ روشی که در آن مهاجم فرمانی را در محتوای بازیابی‌شده می‌گنجاند و دفاع‌ها می‌کوشند نشانه‌های دستوری آن را شناسایی کنند. به‌گفتهٔ چکیده، عامل‌های زبانی هرچه بیشتر بر اطلاعات منابع عمومیِ معتبر تکیه می‌کنند و تصمیم‌هایشان می‌تواند به معامله، ایجاد وابستگی یا پیامدهای فیزیکی بینجامد. متن در دسترس جزئیات بیشتری از آزمایش‌ها یا راهکارهای دفاعی ارائه نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده