هوش مصنوعی

چارچوبی برای سنجش آسیب‌پذیری عامل‌های جست‌وجو در برابر حمله‌های پویا

پیش‌چاپی در arXiv روشی را پیشنهاد می‌کند که در آن راهبرد حمله و سازوکار دفاعی به‌صورت تطبیقی تکامل می‌یابند.

۱ دقیقه مطالعه
Figure 1 : Overview of the adversarial self-evolution framework. Left: Bi-level optimization drives attacker-defender co-evolution. Top Right: CREO drives directional mutation and crossover recombination of the attack st
تصویر درج‌شده در مقالهٔ اصلی؛ حقوق بازنشر مستقل تأیید نشده است. — arXiv · AI (پیش‌چاپ) · پرونده اصلی · منبع تصویر: ناشر خبر

عامل‌های جست‌وجو برای انجام وظایف پیچیدهٔ بازیابی اطلاعات به وب متکی‌اند و در نتیجه ممکن است در معرض حمله‌هایی مانند تزریق اطلاعات مخرب یا دست‌کاری پنهانی زمینه قرار بگیرند. نویسندگان پیش‌چاپ «The Web Doesn't Sit Still» می‌گویند روش‌های موجود به الگوهای ثابت و دست‌ساز متکی‌اند و پویایی تهدیدهای دنیای واقعی را بازنمایی نمی‌کنند.

آن‌ها چارچوبی برای تکامل خودکار حمله‌های خصمانه پیشنهاد می‌کنند که در آن بهینه‌سازی دوسطحی، تحول راهبرد مهاجم را با سازگاری دفاع و کاهش اثر حمله پیوند می‌دهد تا آسیب‌پذیری عامل‌های جست‌وجو آشکار شود. چکیدهٔ در دسترس جزئیات بیشتری دربارهٔ پیاده‌سازی یا نتایج این چارچوب ارائه نمی‌کند.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست