گوگل ریسرچ چالش‌های حریم خصوصی و امنیت در عامل‌های هوش مصنوعی را بررسی کرد

گوگل ریسرچ گزارشی دربارهٔ چالش‌های نوظهور حریم خصوصی و امنیت در عامل‌های هوش مصنوعی منتشر کرده است. نویسندگان می‌گویند عامل‌ها برای انجام کارهای پیچیده ممکن است به داده‌های شخصی دسترسی داشته باشند و در موقعیت‌های گوناگون اقدام‌های اثرگذار انجام دهند؛ بنابراین توانایی آن‌ها باید با سازوکارهایی همراه باشد که رفتارشان را متناسب با زمینه محدود کند.

این گزارش حاصل کارگاه Google Contextual Agent Privacy and Security (CAPS) است که در اواخر سال ۲۰۲۵ در نیویورک برگزار شد و بیش از ۵۰ نفر از دانشگاه و صنعت در آن مشارکت داشتند. چارچوب گزارش بر نظریهٔ «یکپارچگی زمینه‌ای» (Contextual Integrity) تکیه دارد؛ رویکردی که بر تناسب رفتار با هنجارهای اجتماعی و موقعیت تأکید می‌کند.

نویسندگان می‌گویند عامل‌های مبتنی بر مدل‌های زبانی بزرگ (LLM) با نرم‌افزارهای سنتیِ قطعی تفاوت دارند و حفاظت از آن‌ها به دفاع‌های هماهنگ در سطح سامانه، مدل، کاربر و اکوسیستم نیاز دارد. گزارش، جهت‌گیری‌های پژوهشی باز را برای این سطوح ترسیم می‌کند؛ هدف، ساخت عامل‌هایی است که بتوانند زمینهٔ فعالیت خود را درک کنند و در همان چارچوب عمل کنند.