هوش مصنوعی

هزینهٔ انرژی VLMهای لبه در پایش پیوسته عمدتاً صرف پردازش تصویر می‌شود

پروفایل‌گیری از ۹ مدل روی دو دستگاه Jetson نشان می‌دهد در سناریوی پایش پیوسته با خروجی کم، پیش‌پردازش بصری ۹۲ تا ۹۷ درصد انرژی مصرفی را به خود اختصاص می‌دهد.

۱ دقیقه مطالعه
Fig. 1: Total energy versus the number of output tokens for the eight main-experiment models on Thor.
تصویر درج‌شده در مقالهٔ اصلی؛ حقوق بازنشر مستقل تأیید نشده است. — arXiv · AI (پیش‌چاپ) · پرونده اصلی · منبع تصویر: ناشر خبر

پژوهشی تازه در arXiv، برآوردهای مصرف انرژی مدل‌های بینایی‌ـ‌زبانی (VLM) روی دستگاه‌های لبه را از کارهای تک‌مرحله‌ای به پایش پیوسته گسترش داده است. پژوهشگران ۹ مدل از سه خانوادهٔ معماری را روی Jetson AGX Thor و Orin ارزیابی کردند و ۴۵۰۸ رکورد را با یک وظیفهٔ صرفاً متنی کالیبره کردند.

نتایج دو الگوی مستقل را نشان می‌دهد: انرژی لازم برای تولید هر توکن خروجی با بزرگ‌تر شدن مدل افزایش می‌یابد، اما هزینهٔ پیش‌پردازش بصری ــ یعنی رمزگذاری تصویر ــ بیشتر به بازده معماری رمزگذار بصری وابسته است تا اندازهٔ مدل. در پایش پیوسته با N=10 و خروجی کم، پیش‌پردازش بصری ۹۲ تا ۹۷ درصد کل انرژی را مصرف می‌کند.

چکیدهٔ در دسترس، راهکارهایی مانند استفادهٔ دوباره از فریم‌های بصری، محدودکردن تطبیقی طول خروجی و مسیریابی آگاه از وظیفه را برای بهینه‌سازی مطرح می‌کند؛ اما متن منبع در میانهٔ فهرست راهکارها قطع شده است.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست