هوش مصنوعی

چارچوب MORE تلاش می‌کند استدلال مدل‌های هوش مصنوعی را با هر وظیفه تطبیق دهد

پژوهشگران در پیش‌چاپی در arXiv روشی معرفی کرده‌اند که هم شیوهٔ استدلال و هم میزان محاسبات را برای هر وظیفه انتخاب می‌کند؛ آن‌ها از بهبود دقت و کارایی در چند معیار خبر می‌دهند.

۱ دقیقه مطالعه
Figure 1: Left : MORE uses Two-Stage self-evolving training with a mode-difficulty aware budget to select the most efficient reasoning mode for each task while maintaining appreciable accuracy. Right : Across coding, mat
تصویر درج‌شده در مقالهٔ اصلی؛ حقوق بازنشر مستقل تأیید نشده است. — arXiv · AI (پیش‌چاپ) · پرونده اصلی · منبع تصویر: ناشر خبر

چارچوب MORE برای حل مشکلی طراحی شده است که در آموزش خودتکاملی عامل‌های هوش مصنوعی دیده می‌شود: به‌کارگیری استدلال پرهزینه برای همهٔ وظایف، حتی وقتی پاسخ کوتاه کفایت می‌کند. این چارچوب می‌کوشد نوع استدلال و میزان تلاش محاسباتی را متناسب با هر وظیفه تنظیم کند.

MORE در دو مرحله آموزش می‌بیند. مرحلهٔ نخست پیش‌فرضی فشرده از چهار شیوه می‌سازد: پاسخ مستقیم، زنجیرهٔ استدلال کوتاه یا بلند، و استدلال مبتنی بر کد. در مرحلهٔ دوم، روش MATE-PPO این پیش‌فرض را با جریان‌هایی از وظایف تولیدشده و دارای پاسخ قابل‌راستی‌آزمایی تکامل می‌دهد؛ بنا بر چکیدهٔ مقاله، این مرحله به داده‌های گزینش‌شده نیاز ندارد. چارچوب، انتخاب شیوهٔ استدلال و تعداد توکن‌های مصرفی را هم‌زمان می‌آموزد.

نویسندگان می‌گویند MORE در معیارهای برنامه‌نویسی، ریاضیات و استدلال عمومی، روی مدل‌های پایه و کدنویسی با اندازه‌های ۳ تا ۱۴ میلیارد پارامتر، بهبود عملکردی پیوسته نشان داده است. آن‌ها همچنین از دقت بالاتر، پاسخ‌های کوتاه‌تر و زمان استنتاج کمتر گزارش می‌دهند. این نتایج در چکیدهٔ یک پیش‌چاپ arXiv آمده‌اند.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست