امنیت سایبری
Kerkoporta: تزریق درِپشتی به عامل‌های کدنویسی با خروجی ساخت‌یافته
پیش‌چاپی در arXiv روشی برای واداشتن مدل‌های استدلالی به فراخوانی ابزار دلخواه مهاجم توصیف می‌کند؛ فراخوانی‌ای که عامل کدنویسی ممکن است اجرا کند.
پژوهشگران در پیش‌چاپی با عنوان «Kerkoporta: Injecting Structured-Output Backdoors in Reasoning Coding Agents» روشی برای کاشت درِپشتی در مدل‌های استدلالیِ به‌کاررفته در عامل‌های کدنویسی معرفی کرده‌اند. به‌گفتهٔ چکیده، وجود یک محرک در هر نقطه از زمینهٔ عامل می‌تواند مدل را به تولید فراخوانی ابزاری وادار کند که مهاجم انتخاب کرده است. اگر سازوکار اجرای عامل آن فراخوانی را اجرا کند، محرمانگی، یکپارچگی یا دسترس‌پذیری سیستم در معرض خطر قرار می‌گیرد.
نویسندگان می‌گویند Kerkoporta با ساخت نمونه‌های مسموم باکیفیت و تنظیم نظارت‌شده، درِپشتی را به مدل تزریق می‌کند و سپس با یادگیری تقویتی سبک، افت کارایی را جبران می‌کند. چکیدهٔ ارائه‌شده جزئیات بیشتری دربارهٔ ارزیابی یا میزان موفقیت این روش بیان نمی‌کند. این مقاله نسخهٔ نخست یک پیش‌چاپ در arXiv است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده