هوش مصنوعی
اجرای مدل چندوجهی NVIDIA Nemotron 3.5 Super VL روی زیرساخت AWS
مدل ۱۲۰ میلیاردپارامتری Nemotron 3.5 Super VL برای استدلال، استفاده از ابزارها و درک چندوجهی طراحی شده و می‌توان آن را روی Amazon EKS و SageMaker HyperPod EKS مستقر کرد.
AWS در مطلبی به معماری و کاربردهای NVIDIA Nemotron 3.5 Super VL پرداخته است؛ مدلی با ۱۲۰ میلیارد پارامتر که از معماری ترکیبی متخصصان (Mixture of Experts) استفاده می‌کند و توانایی استدلال و کار با ابزارها را با درک چندوجهی ترکیب می‌کند.
این مطلب همچنین روش استقرار مدل روی Amazon EKS، حالت خودکار EKS (EKS Auto Mode) و Amazon SageMaker HyperPod EKS را با استفاده از NVIDIA Dynamo و vLLM توضیح می‌دهد.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: AWS AI Blog — مشاهده منبع اصلی ↗