هوش مصنوعی
پژوهش: خواندن ویژگی‌های فیزیکی از بازنمایی مدل، به معنای کنترل‌پذیری آن نیست
آزمایش‌های پیش‌ثبت‌شده روی جریان دوبعدی ناویر–استوکس نشان می‌دهد بازنمایی‌های خودنظارتی لزوماً کمیت‌های فیزیکی را بهتر سازمان‌دهی نمی‌کنند و یافتن یک ویژگی در فضای نهفته، تضمین نمی‌کند بتوان آن را از راه همان فضا کنترل کرد.
در سه مطالعهٔ پیش‌ثبت‌شده روی داده‌های نگه‌داشته‌شده از جریان دوبعدیِ رو به زوال ناویر–استوکس، پژوهشگران بررسی کردند مدل‌های جهان خودنظارتی چگونه اطلاعات فیزیکی را در بازنمایی‌های نهفته‌شان سازمان می‌دهند و آیا می‌توان این اطلاعات را با دست‌کاری بازنمایی کنترل کرد. هر مطالعه فقط یک‌بار روی داده‌های آزمون اجرا شد.
در مطالعهٔ نخست، معماری پیش‌بینی با تعبیهٔ مشترک (JEPA) که برای پیش‌بینی جریان آموزش دیده بود، معیارهای ازپیش‌تعیین‌شده را برای سازمان‌دهی بازنمایی حول کمیت‌های سیال برآورده نکرد؛ عملکردش از شبکه‌ای آموزش‌ندیده با همان معماری بهتر نبود. JEPA آموزش‌دیده روی پویایی خطیِ غیرفیزیکی و مدلی ایستا برای ناوردایی که اصلاً با گذر زمان سروکار نداشتند نیز به همان خوبی یا بهتر عمل کردند.
در مطالعهٔ دوم، خودرمزگذارهای ساده‌ای که میدان جریان را بازسازی می‌کردند، در جهت‌های نهفتهٔ آهسته‌تر و بدون‌نظارت، برجستگی بیشتری به enstrophy دادند: بهترین همبستگی‌ها ۰٫۸۰ تا ۰٫۸۶ بود، در برابر ۰٫۳۸ برای مدل آموزش‌ندیده. افزودن VICReg این برجستگی را در همهٔ مقایسه‌ها کاهش داد، هرچند افتِ ازپیش‌تعیین‌شده برای vorticity حاصل نشد؛ در عوض، قابلیت رمزگشایی خطی خودرمزگذارها افزایش یافت. پژوهشگران این بخش را تا حدی مؤید دانستند.
در مطالعهٔ سوم، پژوهشگران با محدودکردن مسیرهای ورودی رمزگشا، جهت‌هایی قابل‌کنترل یا «پیچ» ساختند: رمزگشا فقط از یک کد شرطی‌سازی کوچک به مقیاس کلی دسترسی داشت و مسیر دیگر نسخه‌ای تنزل‌یافته از شکل طیفی را حمل می‌کرد. قواعد بدون برچسب در هر ۸ مدل آموزش‌دیده یک پیچِ بلندی پیدا کردند، اما پیچِ شکل فقط در ۳ مورد از ۵ بذر تازه روی داده‌های مهروموم‌شده شناسایی شد؛ کمتر از آستانهٔ ازپیش‌تعیین‌شدهٔ ۴ مورد. هیچ‌یک از دو مدل کنترل پیچِ شکل نشان ندادند، بنابراین این مطالعه نیز فقط تا حدی مؤید بود.
نتیجهٔ محوری مقاله این است که محتوای یک بازنمایی نهفته و امکان کنترل آن از راه بازنمایی، دو چیز جداگانه‌اند. در یک آزمایش اکتشافی، جهتی که با نظارت تقریباً به‌طور کامل شکل طیفی را می‌خواند، هنگام دست‌کاری عملاً چیزی را تغییر نداد. برای پیدا کردن پیچِ بلندی نیز پژوهشگران ناچار شدند اثر آن بر خروجی را بررسی کنند، نه واریانس داده را؛ نزدیک‌ترین اثر به یک تغییر مقیاس خالص بود. مقاله می‌گوید برنامهٔ آزمایش‌ها حدود ۷۰ ساعت ثبت‌شده روی یک GPU مصرفی زمان برده و پیش‌ثبت‌ها، انحراف‌ها، کد و خروجی‌ها را عمومی کرده است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده