طرحی برای بازبینی پیوستهٔ مجوزهای عامل‌های هوش مصنوعی

عامل‌های نرم‌افزاری خودکار ممکن است با ابزارها کار کنند، وظایفی را به عامل‌های دیگر بسپارند یا مدل و محیط اجرای خود را تغییر دهند؛ در همین حال، مجوزهای قبلی‌شان ممکن است همچنان فعال باشد. پژوهشگران در پیش‌چاپی در arXiv چارچوب «مجوزدهی پیوستهٔ مشروط به اطمینان» (ACCA) را برای بازتنظیم اختیار عملیاتی این عامل‌ها بر پایهٔ میزان اطمینانی که در همان زمان با شواهد موجود توجیه می‌شود، پیشنهاد کرده‌اند.

ACCA اعتبار شواهد را از تناسب آن‌ها با زمینهٔ فعلی جدا می‌کند و بر اساس شواهد واجد شرایط، ادعاهای اطمینان را به دست می‌آورد. سپس دامنه‌ای چندبعدی از اختیارات مؤثر را در چارچوب سقفی که صاحب اختیار تعیین کرده و سیاست‌های مربوط حل‌وفصل می‌کند. یک گراف وابستگیِ نوع‌دار نیز کمک می‌کند تغییرهای مرتبط با مجوزدهی، به‌صورت انتخابی دوباره ارزیابی شوند. با تغییر اختیار مؤثر، «دورهٔ اختیار» تغییر می‌کند؛ نسخهٔ جداگانه و اختیاریِ مبنای مجوزدهی هم می‌تواند برای اعتبارسنجی دوبارهٔ شرط‌های خاص هر اقدام به کار رود.

در این چارچوب، سازوکار اعمال کنترل در لحظهٔ اثرگذاری می‌تواند اقدام‌های منسوخ‌شده را پیش از تغییر یک منبع حساس رد کند؛ البته این امکان به سازوکار ثبت نهایی تغییر وابسته است. پژوهشگران همچنین «پروفایل حاکمیت دامنه» را برای بیان قواعد خاص هر حوزه مطرح کرده‌اند؛ این پروفایل به‌خودی‌خود اختیار تازه‌ای اعطا نمی‌کند.

ارزیابی گزارش‌شده، مجموعه‌ای از آزمون‌های سناریومحور و کنترل‌شده با پروفایل معاملاتی است. آزمون‌ها قواعد منع پیش‌فرض، کاهش و بازیابی اختیار بر مبنای شواهد، واگرایی سیاست‌ها، بی‌پاسخ‌ماندن انتخابی و رد اقدام منسوخ‌شده در یک درگاه محلی پیش از رسیدن به مرز کارگزار شبیه‌سازی‌شده را بررسی می‌کنند. نویسندگان تأکید می‌کنند که این مطالعه در یک حوزه شواهدی در سطح پیاده‌سازی فراهم می‌کند، نه تضمینی فراگیر برای جلوگیری از رفتار زیان‌بار در حوزه‌های مختلف.