هوش مصنوعی
هم‌ترازی آموزش و استنتاج، مسئلهٔ کلیدی یادگیری تقویتی FP4 در مدل‌های MoE است
پیش‌چاپی در arXiv می‌گوید روش‌های بازیابی دقت که برای مدل‌های متراکمِ کم‌دقت مؤثر بوده‌اند، در مدل‌های Mixture-of-Experts بهبود محسوسی نسبت به خط پایهٔ سادهٔ FP4 ایجاد نکرده‌اند.
پژوهشگران در پیش‌چاپی دربارهٔ پس‌آموزش مدل‌های زبانی Mixture-of-Experts با یادگیری تقویتی FP4 بررسی کرده‌اند چرا دستورالعمل‌های بازیابی دقتِ موفق در مدل‌های متراکم، در مدل‌های MoE نتیجهٔ مشابهی ندارند. به‌گفتهٔ آن‌ها، این روش‌ها در تنظیم MoE نسبت به خط پایهٔ سادهٔ FP4 بهبودی ایجاد نکرده‌اند.
تحلیل پژوهش، علت را به سازوکار مسیریابی ویژهٔ MoE نسبت می‌دهد: روتر با تصمیم‌های گسسته، متخصصان مدل را انتخاب می‌کند و در نتیجه هم‌ترازی سیاست در آموزش و استنتاج به اجرای متقارن روش بازیابی در هر دو مرحله حساس می‌شود. چکیدهٔ در دسترس در میانهٔ جمله‌ای دربارهٔ حالت نامتقارن قطع شده است؛ بنابراین جزئیات بیشتر نتایج در این دادهٔ منبع مشخص نیست.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده