هوش مصنوعی
روش LoFIT نشانه‌ای برای شناسایی تصاویرِ حاضر در داده‌های آموزش مدل‌های انتشار پیشنهاد می‌کند
پیش‌چاپی در arXiv روشی به نام LoFIT معرفی می‌کند که با بررسی تغییرات محلیِ پیش‌بینی نویز تحت شرط‌های متنی متفاوت، احتمال حضور یک نمونه در داده‌های آموزش را می‌سنجد.
استنباط عضویت (membership inference) می‌کوشد مشخص کند آیا یک نمونهٔ مشخص برای آموزش مدل انتشار متن‌به‌تصویر به کار رفته است یا نه؛ روشی که می‌تواند در بررسی استفاده از داده‌های آموزشی کاربرد داشته باشد. پژوهشگران در پیش‌چاپی در arXiv، سیگنالی را در جابه‌جایی پیش‌بینی‌های شرطی شناسایی کرده‌اند: تغییر پیش‌بینی نویز هنگام ثابت‌ماندن ورودی نویزی و عوض‌کردن شرط متنی.
به‌گفتهٔ پژوهشگران، نکته این است که حرکت به‌سوی پیش‌بینی جایگزین، در آغاز تابع زیانِ حذف نویز را نسبت به مقدار آن با شرح اصلی کاهش می‌دهد یا افزایش. نمونه‌های استفاده‌شده در آموزش، بهبود محلی کمتری برای چنین تغییری نشان می‌دهند. روش پیشنهادی، با نام LoFIT (Local Conditional Fit)، واکنش اولیهٔ تابع زیان را در امتداد جابه‌جایی‌های نرمال‌شدهٔ پیش‌بینی اندازه می‌گیرد و آن را در چند شرط متنی تجمیع می‌کند.
منبع در چکیدهٔ ارائه‌شده جزئیاتی دربارهٔ ارزیابی عملکرد یا میزان دقت LoFIT بیان نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده