پژوهش

VideoMogaNet هزینهٔ شاخهٔ زمانیِ تشخیص ویدئو را کاهش می‌دهد

پیش‌چاپی در arXiv روشی برای مدل‌سازی تعامل‌های مکانی و زمانی معرفی می‌کند که به‌گفتهٔ نویسندگان، هزینهٔ محاسباتی شاخهٔ زمانی را کم می‌کند و در چند معیار تشخیص کنش با روش‌های پیشرفته هم‌سطح است یا از آن‌ها بهتر عمل می‌کند.

۱ دقیقه مطالعه
Fig. 3 : Left : Spatio-temporal design families and ST-MOI. Right : Grad-CAM activation maps of three baselines (UniFormer-S, VideoMamba-S, VideoMAE-S) and our VideoMogaNet-S on the class Tearing something into two piece
تصویر درج‌شده در مقالهٔ اصلی؛ حقوق بازنشر مستقل تأیید نشده است. — arXiv · AI (پیش‌چاپ) · پرونده اصلی · منبع تصویر: ناشر خبر

بسیاری از روش‌های تشخیص ویدئو برای ترکیب اطلاعات کانال‌ها از فرافکنی‌های صریح استفاده می‌کنند؛ رویکردی که پیچیدگی آن با تعداد کانال‌ها به‌صورت درجه‌دوم رشد می‌کند و سربار محاسباتی به‌دنبال دارد. نویسندگان پیش‌چاپ VideoMogaNet می‌گویند این روش همچنین می‌تواند نمایش مکانی‌ـ‌زمانی را به تعامل‌های محلی در CNNها یا تعامل‌های سراسری در ترنسفورمرها متمایل کند.

VideoMogaNet بر پایهٔ نمایش چندمرتبه‌ای مکانی MogaNet ساخته شده و دو تغییر دارد: پردازش موازی چندمرتبه‌ای برای مدل‌سازی زمانی، با کانولوشن‌های صرفاً عمقی و تجمیع ضمنی مبتنی بر دروازه‌بندی که پیچیدگی خطی در تعداد کانال‌ها دارد؛ و تعامل دوگانه میان بُعدهای مکانی و زمانی، بدون افزایش هزینهٔ محاسباتی.

طبق چکیدهٔ مقاله، این مدل در معیارهای UCF101، HMDB51، Kinetics-400 و Diving48 عملکردی هم‌سطح یا بهتر از روش‌های پیشرفتهٔ تشخیص کنش داشته و هزینهٔ شاخهٔ زمانی را به‌طور چشمگیری کاهش داده است. این کار در arXiv به‌صورت پیش‌چاپ منتشر شده است.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست