چارچوبی برای ممیزی ایمنی عامل‌های هوش مصنوعی بدون افشای داده‌های کاربر

عامل‌های مبتنی بر مدل‌های زبانی بزرگ ممکن است با فراخوانی ابزارها به داده‌های خصوصی دسترسی پیدا کنند یا اقدام‌های حساسی انجام دهند. اپراتورها می‌توانند ممیزی ایمنی پیش از اجرا را به ارائه‌دهندگان تخصصی بسپارند، اما فرستادن شرح وظیفه، آرگومان‌های فراخوانی و سابقهٔ تعامل برای ممیز بیرونی ممکن است اطلاعات حساس کاربر را در معرض دید قرار دهد.

نویسندگان این پیش‌چاپ، الگویی برای ممیزی ایمنیِ حافظ حریم خصوصی پیشنهاد کرده‌اند که محاسبات ممیزیِ واگذارشده را از دسترسی به متن آشکار و اختیار اجرا جدا می‌کند. این الگو بر مدلی سه‌دامنه‌ای استوار است و ساخت بازنماییِ مورداعتماد، محاسبهٔ رمزگذاری‌شدهٔ ممیزی و تصمیم‌گیری و اجرای مورداعتماد را از طریق رابط‌های مشخص به هم پیوند می‌دهد. منبع در چکیدهٔ ارائه‌شده جزئیات بیشتری از سازوکار یا ارزیابی این رویکرد بیان نمی‌کند.