هوش مصنوعی
پژوهشگران روشی متنی برای گمراه‌کردن مدل‌های بینایی‌ـ‌زبانی بزرگ پیشنهاد کردند
پیش‌چاپی در arXiv روش «نمونه‌های متنیِ یادناپذیر طبیعی» را معرفی می‌کند که با دست‌کاری ظریف برچسب تصویر، مسیر میان یک هویت و هدفی دیگر را به مدل تحمیل می‌کند.
پژوهشگران در پیش‌چاپی تازه، روشی به نام Natural Textual Unlearnable Examples (NTUE) را برای مدل‌های بینایی‌ـ‌زبانی بزرگ (LVLM) معرفی کرده‌اند. این مدل‌ها با مجموعه‌داده‌های گسترده آموزش می‌بینند؛ داده‌هایی که ممکن است حساس باشند و استفادهٔ بدون اجازه از آن‌ها نگرانی‌های حریم خصوصی ایجاد کند.
روش‌های Unlearnable Examples با تغییرهای ظریف در دادهٔ آموزشی می‌کوشند یادگیری مدل را مختل کنند. به‌گفتهٔ نویسندگان، این مقاله نخستین بررسی چنین رویکردی به‌طور خاص برای LVLMها است؛ مدل‌هایی که به‌دلیل ماهیت چندوجهی‌شان چالش‌های ویژه‌ای دارند. NTUE با دست‌کاری ظریف برچسب تصویر، میان هویتی که پژوهشگر می‌خواهد محافظت کند و هدفی جداگانه میان‌بُر ایجاد می‌کند. نویسندگان می‌گویند این روش بدون افزودن اطلاعات نادرستِ واقعی یا اثرگذاشتن بر خوانایی عمل می‌کند. متن در دسترس، جزئیات بیشتری دربارهٔ ارزیابی روش ارائه نمی‌دهد.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده