هوش مصنوعی
BtsPruner توکن‌های تصویری را بر اساس نقششان در مدل‌های بینایی‌ـ‌زبانی هرس می‌کند
پیش‌چاپی در arXiv روشی بدون نیاز به آموزش معرفی می‌کند که تفاوت نقش توکن‌های تصویری را هنگام رمزگذاری در نظر می‌گیرد.
مدل‌های بزرگ بینایی‌ـ‌زبانی (LVLM) در زمان استنتاج اغلب صدها یا هزاران توکن تصویری پردازش می‌کنند؛ کاری که سربار محاسباتی و حافظهٔ قابل‌توجهی دارد. روش‌های رایج هرس توکن، اهمیت آن‌ها را معمولاً با توجه زبانی، توجه بصری یا شباهت ویژگی‌ها می‌سنجند، اما به همهٔ توکن‌ها معیار یکسانی اعمال می‌کنند.
نویسندگان پیش‌چاپ BtsPruner می‌گویند نقش توکن‌های تصویری در جریان رمزگذاری تغییر می‌کند: آن‌ها به‌تدریج از حامل جزئیات محلی به نماینده‌هایی تبدیل می‌شوند که ارجاعی کلی‌تر دارند. بر همین اساس، پژوهشگران روشی «آگاه به نقش» و بدون نیاز به آموزش پیشنهاد می‌کنند. چکیدهٔ در دسترس جزئیات بیشتری دربارهٔ سازوکار روش یا نتایج ارزیابی آن ارائه نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده