← بازگشت به خبرها

هوش مصنوعی

آموزش توزیع‌شدهٔ مدل Qwen2.5 با Ray Train روی Amazon EKS

AWS نمونه‌ای بازتولیدپذیر برای آموزش تکمیلی Qwen2.5-1.5B روی هشت GPU و دو نمونهٔ مجهز به EFA ارائه کرده است؛ بدون نیاز به ساخت ایمیج سفارشی.

AWS در مطلبی آموزشی، روشی برای آموزش توزیع‌شده با Ray Train روی Amazon EKS معرفی کرده است. این نمونه، مدل Qwen2.5-1.5B را با PyTorch FSDP روی هشت GPU و دو نمونهٔ g6.12xlarge مجهز به EFA آموزش تکمیلی می‌دهد.

در این روش از کانتینر Ray Train Deep Learning Container همان‌طور که منتشر شده استفاده می‌شود. کانتینر، مجموعهٔ کامل اجزای نرم‌افزاری CUDA تا EFA را در خود دارد؛ بنابراین نیازی به ساخت ایمیج جداگانه نیست.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: AWS AI Blog — مشاهده منبع اصلی ↗