هوش مصنوعی
Caper پیش از اجرای فرمانهای عاملهای کدنویس، پیامدهایشان را در محیط ایزوله میسنجد
سازوکار پیشنهادی پژوهشگران، فرمان را در یک sandbox تصویریافته پیشاجرا میکند تا تأییدکنندهای مستقل اثرهای مشاهدهشده را بررسی کند.
عاملهای کدنویس برای اجرای فرمانهای shell معمولاً به سامانههای تأیید خودکار متکیاند؛ اما بررسیهای رایج، از چککنندههای قاعدهمحور تا مدلهای guardrail و طبقهبندهای دسترسی، عمدتاً متن درخواست و فرمان را میسنجند. پژوهشگران میگویند رفتار فرمان به کدی که اجرا میکند و وضعیت workspace نیز وابسته است؛ سامانههایی هم که تغییر فایلها را رصد میکنند، ارزیابی را به پس از اجرا و به عامل یا انسان واگذار میکنند.
مقالهٔ پیشچاپ arXiv سازوکاری به نام Caper معرفی میکند که هر فرمان را پیش از اجرا در sandboxای مبتنی بر snapshot اجرا میکند. سپس یک تأییدکنندهٔ مستقل گزارشی محدود از اثرهای مشاهدهشده دریافت میکند. فرمانهای تأییدشده اعمال میشوند و فرمانهای مسدودشده به حالت پیشین بازمیگردند؛ همراه با دلیلی که عامل بتواند بر اساس آن اقدام کند. اطلاعات ارائهشده دربارهٔ مقاله، جزئیات بیشتری از ارزیابی یا نتایج Caper در بر ندارد.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درجشده تنظیم شدهاند؛ صحت مستقل همه ادعاها تضمین نمیشود.
منبع: arXiv · AI (پیشچاپ) — مشاهده منبع اصلی ↗
پیشچاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده