پژوهش
پاداشدادن به مسیر استدلال، به بهبود و انتقال توانایی مدلهای زبانی کوچک کمک میکند
یک پیشچاپ arXiv نشان میدهد معیار مبتنی بر آنتروپی UID-Conj. در آزمایشهای آنلاین، میانگین عملکرد Qwen3-1.7B را نسبت به روش پایه ۲٫۰۸ واحد درصد افزایش داده است.
پژوهشگران در پیشچاپی در arXiv بررسی کردهاند که آیا ارزیابی مسیر استدلال مدل، در کنار درستبودن پاسخ نهایی، میتواند به بهبود مدلهای زبانی کوچک و انتقال توانایی آنها به مسائل دیگر کمک کند. پاداشِ صرفاً مبتنی بر پاسخ، میان دو مسیر استدلالی که به پاسخ درست یکسانی میرسند تمایز نمیگذارد.
این مطالعه دو معیار را مقایسه میکند: معیار مبتنی بر اطمینان (SC) و UID-Conj. که تغییرات کلی آنتروپی و همواری محلی مسیر را ترکیب میکند. در آزمایش آنلاین، مدل Qwen3-1.7B با ۳۰ مسئلهٔ AIME و بدون پاسخ مرجع سازگار شد؛ آزمایشهای آفلاین نیز از مسائل تاریخی AIME استفاده کردند. UID-Conj. میانگین عملکرد را در معیار سازگاری و سه معیار انتقال، ۲٫۰۸ واحد درصد بالاتر از TTRL بدون تغییر برد. بخش در دسترس چکیده، ادامهٔ توضیح دربارهٔ قویترین شواهد را ارائه نمیکند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درجشده تنظیم شدهاند؛ صحت مستقل همه ادعاها تضمین نمیشود.
منبع: arXiv · AI (پیشچاپ) — مشاهده منبع اصلی ↗
پیشچاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده