هوش مصنوعی
OLGA برای آموزش پیوستهٔ مدلهای زبانی، دادههای بیبرچسب را به نمونههای فشرده تبدیل میکند
پیشچاپی در arXiv روشی را معرفی میکند که هدفهای تطبیق گرادیان را از پیشبینی توکن بعدیِ خود مدل میگیرد؛ جزئیات ارزیابی در متن ارائهشده محدود است.

مدلهای زبانیِ بهکاررفته در محصولات مشتریمحور باید با تغییر دادههای کاربران بهروزرسانی شوند، اما آموزش دوباره با همهٔ دادههای انباشتهشده میتواند عملی نباشد. راه جایگزین، انتخاب مجموعهای کوچک از نمونههاست که سیگنال آموزشی دادههای قبلی را حفظ کند.
پیشچاپی در arXiv روشی به نام OLGA معرفی میکند که با «تطبیق گرادیان» نمونههای فشردهای میسازد. بهگفتهٔ چکیده، روشهای پیشین به برچسبهای واقعی نیاز داشتند، روی یک مجموعهٔ ثابت اجرا میشدند و در دادههای بزرگ کند بودند. OLGA بهجای برچسب، هدفهای تطبیق را از پیشبینیهای خود مدل دربارهٔ توکن بعدی میگیرد و برای دادههای بیبرچسب طراحی شده است. چکیده به ارزیابی روی پنج مورد اشاره میکند، اما متن ارائهشده نتیجه یا جزئیات این ارزیابی را بیان نمیکند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درجشده تنظیم شدهاند؛ صحت مستقل همه ادعاها تضمین نمیشود.
منبع: arXiv · AI (پیشچاپ) — مشاهده منبع اصلی ↗
پیشچاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده