هوش مصنوعی
واترمارک محلیِ خصوصی برای برآورد میزان استفاده از مدل‌های زبانی
پژوهشگران روشی پیشنهاد کرده‌اند که به‌جای ردیابی استفادهٔ هر فرد، فراوانی کلیِ متن‌های تولیدشده با مدل‌های زبانی را برآورد می‌کند؛ روشی که به گفتهٔ آن‌ها، حریم خصوصی را حفظ می‌کند و در آزمون‌ها خطای اندکی داشته است.
واترمارک‌گذاری متن‌های تولیدشده با مدل‌های زبانی می‌تواند به نظارت بر کاربرد این مدل‌ها کمک کند، اما ردیابی جزئیِ استفادهٔ افراد نگرانی‌های حریم خصوصی را برانگیخته است. نویسندگان مقاله می‌گویند این نگرانی‌ها همچنین می‌تواند اثربخشی واترمارک را کاهش دهد؛ برای نمونه، بازنویسی متن ممکن است بخش زیادی از نشانهٔ واترمارک را از بین ببرد.
این پژوهش به‌جای شناسایی استفادهٔ فردی، بر برآورد میزان استفاده در یک جمعیت تمرکز دارد. نویسندگان روشی مبتنی بر حریم خصوصی تفاضلی محلی طراحی کرده‌اند که بنا بر ادعای آن‌ها، سهم هر متن را در شناسایی واترمارک محدود می‌کند و در عین حال امکان برآورد دقیق فراوانی کلی را فراهم می‌آورد. آن‌ها همچنین واترمارک «Red-Green Sequence» را معرفی کرده‌اند که آن را از نظر محاسباتی کارآمد توصیف می‌کنند.
در آزمایش‌های مدل‌سازی زبان روی مجموعه‌دادهٔ C4، روش پیشنهادی با ε برابر ۱ به خطای میانگین مربعات ۰٫۰۰۱۹ و میانگین قدرمطلق سوگیری ۰٫۰۰۳۸ رسید. در آزمونی دشوارتر برای نوشتن مقاله، با فقط ۱۰۰ نمونهٔ متنی و ε برابر ۲، خطای میانگین مربعات ۰٫۰۱۱۳ و میانگین قدرمطلق سوگیری ۰٫۰۰۴ گزارش شد. این مقاله پیش‌چاپی در arXiv است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده