هوش مصنوعی
سامانهٔ FlexFloor زمان بیکاری پردازنده‌ها را در پس‌آموزش مدل‌های زبانی کاهش می‌دهد
پژوهشگران می‌گویند این روش در مقایسه با مبنای verl، تعداد توکن‌های تولیدشده به‌ازای زمان اشغال محاسبات را حدود ۶۵ درصد افزایش داده است.
تولید پاسخ‌های آموزشی یکی از گلوگاه‌های محاسباتی پس‌آموزش تقویتی مدل‌های زبانی بزرگ است. در مدل‌های Mixture-of-Experts، حتی پس از پایان تولید پاسخ در برخی پردازشگرها، ممکن است منابع آن‌ها همچنان درگیر بماند؛ چون کارشناسان موردنیازشان باید پاسخ‌های طولانی‌ترِ پردازشگرهای دیگر را پشتیبانی کنند. نویسندگان مقاله می‌گویند در روش مبنا، حدود یک‌سوم زمان اشغال‌شدهٔ پردازشگرها پس از پایان تولید پاسخ محلی می‌گذرد.
سامانهٔ FlexFloor با تنظیم هم‌زمان زمان‌بندی پاسخ‌ها و گروه فعال پردازشگرها، می‌کوشد منابع را زودتر آزاد کند، بی‌آنکه محاسبات کارشناسان موردنیاز پاسخ‌های در حال تولید مختل شود. این روش از طول پاسخ‌های پیشین و محدودیت‌های حافظه برای تنظیم دسته‌بندی درخواست‌ها و جای‌گذاری promptها استفاده می‌کند و سپس پردازشگرها را به‌تدریج آزاد می‌کند.
بر اساس چکیدهٔ پیش‌چاپ arXiv، FlexFloor در مقایسه با مبنای verl، توکن‌های پاسخ را به‌ازای هر واحد زمان اشغال محاسبات حدود ۶۵٫۴۰ درصد بیشتر تولید کرد و توان عملیاتی تولید پاسخ را ۵۲٫۷۴ درصد افزایش داد؛ در عین حال، تغییر اندکی در پاداش rollout مشاهده شد. این نتایج در مقاله‌ای ۱۹صفحه‌ای گزارش شده‌اند و منبع موجود جزئیات بیشتری از شرایط ارزیابی ارائه نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده