هوش مصنوعی
PrivacyFlow برای مدیریت حریم خصوصی در عامل‌های هوش مصنوعی معرفی شد
پژوهشگران در یک پیش‌چاپ، PrivacyBench را با ۵۸۷۳ وظیفه و ۹۸۶ دنبالهٔ کاری معرفی کرده‌اند و از روشی برای ارزیابی ریسک افشای اطلاعات در عامل‌های هوش مصنوعی خبر داده‌اند.
عامل‌های خودکار مبتنی بر مدل‌های زبانی بزرگ ممکن است هنگام انجام کارهای چندمرحله‌ای با داده‌های شخصی، اطلاعات حساس را خارج از بافت مناسب افشا کنند یا با انتظارهای کاربر دربارهٔ حریم خصوصی هم‌راستا نباشند. پژوهشگران می‌گویند معیارهای سنجش و روش‌های دفاعی موجود به‌ندرت اصول «یکپارچگی زمینه‌ای» (Contextual Integrity) را در دنباله‌های واقع‌گرایانه و چندمرحله‌ایِ وظایف عملیاتی می‌کنند.
پیش‌چاپ PrivacyFlow دو دستاورد معرفی می‌کند: agentic PrivacyBench، مجموعه‌معیاری شامل ۵۸۷۳ وظیفه در ۹۸۶ دنبالهٔ کاری که به‌روزرسانی‌های پویای محیط و فهرست‌های مجازِ مبتنی بر Contextual Integrity برای اطلاعات حساس را در بر می‌گیرد؛ و PrivacyFlow، روشی دفاعی که برنامه‌ریزی سنجیدهٔ حریم خصوصی را از اجرای وظیفه جدا می‌کند. در این روش، هر تصمیم دربارهٔ اشتراک‌گذاری اطلاعات به‌عنوان مسئله‌ای ساختاریافته برای مدیریت ریسک در نظر گرفته می‌شود.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده