هوش مصنوعی

OLGA برای آموزش پیوستهٔ مدل‌های زبانی، داده‌های بی‌برچسب را به نمونه‌های فشرده تبدیل می‌کند

پیش‌چاپی در arXiv روشی را معرفی می‌کند که هدف‌های تطبیق گرادیان را از پیش‌بینی توکن بعدیِ خود مدل می‌گیرد؛ جزئیات ارزیابی در متن ارائه‌شده محدود است.

۱ دقیقه مطالعه
Figure 2: Across five datasets, OLGA beats every competing method on average in both the offline and online setups, and comes close to the supervised upper bound in the online one. (a) Offline methods reduce 50 real exam
تصویر درج‌شده در مقالهٔ اصلی؛ حقوق بازنشر مستقل تأیید نشده است. — arXiv · AI (پیش‌چاپ) · پرونده اصلی · منبع تصویر: ناشر خبر

مدل‌های زبانیِ به‌کاررفته در محصولات مشتری‌محور باید با تغییر داده‌های کاربران به‌روزرسانی شوند، اما آموزش دوباره با همهٔ داده‌های انباشته‌شده می‌تواند عملی نباشد. راه جایگزین، انتخاب مجموعه‌ای کوچک از نمونه‌هاست که سیگنال آموزشی داده‌های قبلی را حفظ کند.

پیش‌چاپی در arXiv روشی به نام OLGA معرفی می‌کند که با «تطبیق گرادیان» نمونه‌های فشرده‌ای می‌سازد. به‌گفتهٔ چکیده، روش‌های پیشین به برچسب‌های واقعی نیاز داشتند، روی یک مجموعهٔ ثابت اجرا می‌شدند و در داده‌های بزرگ کند بودند. OLGA به‌جای برچسب، هدف‌های تطبیق را از پیش‌بینی‌های خود مدل دربارهٔ توکن بعدی می‌گیرد و برای داده‌های بی‌برچسب طراحی شده است. چکیده به ارزیابی روی پنج مورد اشاره می‌کند، اما متن ارائه‌شده نتیجه یا جزئیات این ارزیابی را بیان نمی‌کند.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست