پژوهش
چارچوب AnytimeReasoner استدلال مدل‌های زبانی را با بودجه‌های توکنی متغیر بهینه می‌کند
پژوهشگران در پیش‌چاپی در arXiv روشی برای بهبود کارایی و انعطاف‌پذیری استدلال مدل‌های زبانی بزرگ معرفی کرده‌اند؛ روشی که به‌جای بهینه‌سازی صرفِ پاسخ نهایی با بودجه‌ای ثابت، محدودیت‌های متفاوت توکن را در نظر می‌گیرد.
پیش‌چاپی با عنوان «Optimizing Anytime Reasoning via Budget Relative Policy Optimization» چارچوبی به نام AnytimeReasoner معرفی می‌کند که هدفش بهبود کارایی مصرف توکن و عملکرد استدلال مدل‌های زبانی بزرگ در شرایطی است که بودجهٔ توکن در دسترس تغییر می‌کند. به‌گفتهٔ نویسندگان، روش‌های پیشین معمولاً با یادگیری تقویتی و پاداشی که در پایان زنجیرهٔ استدلال محاسبه می‌شود، عملکرد نهایی را زیر یک بودجهٔ بزرگ و ثابت بهینه می‌کنند؛ رویکردی که کارایی آموزش و استفاده از مدل را محدود می‌کند.
در روش پیشنهادی، فرایند کامل تفکر مدل متناسب با بودجه‌های توکنیِ نمونه‌برداری‌شده از یک توزیع پیشین کوتاه می‌شود. چکیدهٔ در دسترس جزئیات بیشتری دربارهٔ نتایج یا میزان بهبود این چارچوب ارائه نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده