هوش مصنوعی
پژوهشگران دربارهٔ برچسب‌گذاری خودکار توهم در مدل‌های زبانی هشدار می‌دهند
یک پیش‌چاپ در arXiv می‌گوید استفاده از امتیاز شباهت BLEURT برای ساخت برچسب‌های مرجعِ توهم ممکن است قابل‌اعتماد نباشد؛ متن در دسترس، جزئیات راهکار پژوهش را نشان نمی‌دهد.
تشخیص اطلاعات نادرست یا تأییدناپذیر در خروجی مدل‌های زبانی بزرگ به برچسب‌های مرجع قابل‌اعتماد نیاز دارد. نویسندگان پیش‌چاپی در arXiv می‌گویند برخی پژوهش‌های اخیر این برچسب‌ها را با مقایسهٔ پاسخ‌های مدل با پاسخ‌های مرجع و معیارهایی مانند BLEURT به‌طور خودکار می‌سازند؛ رویکردی که عملاً امتیاز شباهت را جانشین سنجش توهم می‌کند.
به‌گفتهٔ نویسندگان، BLEURT برای سنجش شباهت طراحی شده، آموزش آن سوگیری انگلیسی‌محور دارد و دامنهٔ امتیازش محدود نیست. بنابراین، تعیین آستانه روی این امتیاز برای ساخت برچسب‌های مرجع ممکن است نتیجهٔ قابل‌اعتمادی ندهد. بخش در دسترس از چکیده پس از اشاره به مقایسه‌ها ناتمام است و روش یا یافته‌های بعدی پژوهش را شرح نمی‌دهد.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده