هوش مصنوعی
FourSight برای پایدارترکردن آموزش تقویتی با کوانتیزه‌سازی FP4 معرفی شد
پیش‌چاپی در arXiv می‌گوید افت کیفیت در این شیوه عمدتاً به چند دنبالهٔ مسئله‌دار و چند کانال فعال‌سازیِ پرنوسان محدود می‌شود.
پژوهشگران در پیش‌چاپی با نام FourSight روشی برای پس‌آموزش یادگیری تقویتی در قالب کم‌دقت NVFP4 (W4A4) معرفی کرده‌اند. به‌گفتهٔ چکیدهٔ مقاله، استفاده از این قالب برای وزن‌ها و فعال‌سازی‌ها می‌تواند کیفیت rollout را کاهش دهد و ناهماهنگی میان موتورهای آموزش و استنتاج را تشدید کند؛ مسئله‌ای که پایداری آموزش را به خطر می‌اندازد.
نویسندگان می‌گویند این مشکلات در همه‌جا به یک اندازه رخ نمی‌دهند: بخش بزرگی از توکن‌های دنباله‌ای با ناهماهنگی شدید در چند توالی پرت جمع می‌شوند، درحالی‌که وزن‌های سیاست عمدتاً دست‌نخورده می‌مانند و خطای کوانتیزه‌سازی نیز در چند کانال فعال‌سازی با واریانس بالا متمرکز است. FourSight بر همین مشاهده بنا شده و دو راهکار را ترکیب می‌کند؛ چکیده، یکی از آن‌ها را «فیلترکردن توالی با آگاهی از ناهماهنگی آموزش و استنتاج» معرفی می‌کند که مسیرهای دچار انحراف را کنار می‌گذارد. متن منبع در میانهٔ شرح راهکارها قطع شده است و جزئیات راهکار دوم را مشخص نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده