امنیت سایبری
زمینهٔ مخزن می‌تواند امنیت کد تولیدشده با هوش مصنوعی را تضعیف کند
پژوهشگران با آزمودن ۱۳ روش ساخت زمینه برای دستیارهای کدنویسی دریافتند که ندیدن یک سازوکار حفاظتی، نرخ تولید کد امن را تا ۸٫۱ واحد درصد کاهش می‌دهد.
پیش‌چاپی در arXiv نشان می‌دهد اطلاعاتی که دستیارهای کدنویسی مبتنی بر مدل‌های زبانی بزرگ از مخزن یک پروژه دریافت می‌کنند، بر امنیت کد تولیدشده اثر می‌گذارد؛ این زمینه ممکن است شامل سازوکارهای حفاظتی پروژه، مانند بررسی مجوز دسترسی، یا نمونه‌هایی از کد ناامن باشد.
پژوهشگران برای بررسی این مسئله CASE-Bench را ساخته‌اند: مجموعه‌ای شامل ۱۴۵ وظیفه در سطح مخزن، برگرفته از آسیب‌پذیری‌های واقعی (CVE) در ۵۱ پروژه. هر وظیفه در Docker اجرا می‌شود و آزمون‌های عملکردی و یک بهره‌برداری اثبات‌مفهوم دارد که در هر دو جهت اعتبارسنجی شده است. پژوهشگران همچنین بخش‌های کد مرتبط با اعمال یا تضعیف امنیت را مشخص کرده‌اند.
در ارزیابی ۱۳ روش ساخت زمینه و شش روش کنترلی با شش مدل زبانی، روش‌های متمرکز بر عملکرد نرخ قبولی آزمون‌های عملکردی را حداکثر ۸٫۲ واحد درصد افزایش دادند؛ افزایش نرخ قبولی آزمون‌های امنیتی، در مقابل، حداکثر ۳٫۷ واحد درصد بود. حذف یک سازوکار حفاظتی از زمینه، نرخ تولید امن را تا ۸٫۱ واحد درصد پایین آورد. همچنین افزودن یک نمونهٔ ناامن، کدهایی را که از نظر عملکرد درست اما در برابر حمله آسیب‌پذیرند، ۶٫۳ واحد درصد افزایش داد.
تحلیل مسیر کار عامل‌های کدنویسی نشان داد که آن‌ها در تنها ۲۷ تا ۳۶ درصد مسیرهای بررسی‌شده سازوکار حفاظتی مرتبط را مشاهده می‌کنند. نویسندگان می‌گویند یافته‌ها بر ضرورت توجه به امنیت هنگام ساخت زمینه و ارزیابی کد امن تأکید دارد. این مقاله نسخهٔ پیش‌چاپ است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده