هوش مصنوعی
کاهش احتمال توکن‌ها به‌تنهایی مهار افشای اطلاعات شخصی در مدل‌های زبانی را ثابت نمی‌کند
پیش‌چاپی در arXiv می‌گوید از ۳۶ مورد مداخلهٔ مبتنی بر ویژگی‌های SAE، فقط یک مورد در ارزیابی چندمعیاره موفق بوده است؛ ارزیابی صرفاً بر پایهٔ کاهش log-probability، ۱۷ مورد را موفق نشان می‌داد.
پژوهشگران مداخله‌های مبتنی بر ویژگی‌های SAE را برای کاهش نشت اطلاعات شناسایی‌پذیر شخصی (PII) در مدل‌های زبانی بررسی کرده‌اند. آن‌ها می‌گویند کاهش log-probability به‌تنهایی نمی‌تواند سرکوب اختصاصی یک ویژگی را از اثرِ صرفاً ناشی از بزرگی تغییر در فعال‌سازی‌ها تشخیص دهد؛ تغییری که ممکن است مستقل از جهت انتخاب‌شده اثر بگذارد.
در ۳۶ مورد شامل ترکیب‌های مختلف مدل، لایه و نوع PII، مداخله روی ویژگی‌های منتخب SAE با کنترل‌هایی مقایسه شد که از جهت‌های تصادفیِ هم‌تراز از نظر انسجام استفاده می‌کردند. بر اساس معیار log-probability، ۱۷ مورد، معادل ۴۷ درصد، موفق به نظر می‌رسیدند؛ اما در چارچوب ارزیابی چندمعیاره که معیارهای آگاه از رتبه را نیز دربر می‌گرفت، فقط یک مورد، معادل ۲٫۸ درصد، موفق بود.
چکیده دو الگوی شکست را گزارش می‌کند: در برخی موارد جهت‌های تصادفی عملکرد بهتری از ویژگی‌های منتخب داشتند و در برخی دیگر، انتخاب ویژگی‌ها میان انواع مختلف PII فرو می‌ریخت. منبع در متن ارائه‌شده توضیح بیشتری دربارهٔ جزئیات این دو الگو یا نتیجه‌گیری نهایی پژوهش ندارد.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده