RuntimeTickets برای نظارت بر مهارت‌های عامل هوش مصنوعی هنگام اجرا طراحی شد

مهارت‌های شخص ثالث می‌توانند توانایی‌های عامل‌های خودمختار را گسترش دهند، اما ممکن است در یک فرایند ظاهراً عادی، داده‌ها را افشا کنند یا خروجی را دست‌کاری کنند. بر اساس پیش‌چاپی در arXiv، خواندن توضیحات یک مهارت یا دادن مجوز دسترسی به ابزارها به‌تنهایی نشان نمی‌دهد که اجرای آن با الزامات امنیتی کاربر سازگار است.

پژوهشگران RuntimeTickets را به‌عنوان پروتکلی برای اعمال و ممیزی این الزامات در زمان اجرای مهارت معرفی کرده‌اند. این روش با اتکا به قرارداد تحویل کار، از یک مدل زبانی می‌خواهد تعهدهای امنیتی لازم را پیشنهاد کند. هر تعهد به خطوط مشخصی از مهارت ارجاع می‌دهد و مجوزهای میزبان را به اقدام‌های مجازِ محدودتر تبدیل می‌کند.

پژوهشگران همچنین می‌گویند مدل ریسک خود را از مجموعه‌داده‌های منتشرشده درباره مهارت‌های مخرب استخراج کرده‌اند و برای ارزیابی، جفت‌هایی از مهارت‌های خصمانه و بی‌خطر ساخته‌اند. متن در دسترسِ منبع در میانه توضیح سازوکار پروتکل قطع می‌شود؛ بنابراین جزئیات بیشتر درباره محدودیت‌های مجوزها یا نتایج ارزیابی در آن ارائه نشده است.