هوش مصنوعی
ثبات پاسخ، فهم وزن‌های شبکهٔ عصبی را ثابت نمی‌کند
پژوهشی در arXiv نشان می‌دهد خواندن محتوای بصری از وزن‌های شبکه به آزمون‌هایی نیاز دارد که تغییرهای بی‌اثر بر عملکرد مدل و ناپایداری پاسخ‌ها را از هم جدا کنند.
پژوهشگران برای ارزیابی مدل‌هایی که محتوای بصری را از وزن‌های شبکهٔ عصبی می‌خوانند، دو تغییر در پارامترها را بررسی کردند که تابع محاسباتی شبکه را عوض نمی‌کنند: جابه‌جایی نورون‌های لایهٔ پنهان و مقیاس‌دهی مثبت ReLU. داده‌های آزمایش شامل ۴۸۰ میدان شکلِ آموزش‌دیده به‌طور مستقل و ۱۰۰۰ میدان MNIST بود؛ نسخه‌های تغییریافتهٔ هر نمونه نیز بر اساس منشأشان گروه‌بندی شدند.
در تشخیص شکل، دقت یک روش مبتنی بر آمار پس از اعمال هم‌زمان دو تغییر افت کرد؛ اما یک روش مبتنی بر مجموعهٔ نرمال‌شده همان دقت را حفظ کرد و پیش‌بینی‌هایش تغییر نکرد. چکیدهٔ پیش‌چاپ ارقام دقیق دقت را منتشرشده در نسخهٔ ارائه‌شده نشان نمی‌دهد و آن‌ها را به‌صورت جای‌خالی آورده است.
چهار مدل زبانی کوچک و ثابت، با امتیازدهی بر اساس توکن بعدی، در آزمون خام به دقتی در بازه‌ای گزارش‌شده اما بدون ارقام مشخص رسیدند. در آزمایشی جداگانه با چهار پیکربندی استدلال و ۱۹۲۰ نشست امتیازدهی‌شده، پاسخ‌های تولیدشده نیز دقت خامی در یک بازه داشتند؛ با این حال، اجرای دوبارهٔ همان ورودی خام باعث اختلاف پاسخ در بخشی از نمونه‌ها شد. یکسان‌سازی صورت ورودی‌های معادل، آن‌ها را دقیقاً یکسان می‌کند، اما به‌تنهایی نه توانایی تشخیص را ثابت می‌کند و نه تضمین می‌دهد پاسخ‌های تولیدشده یکسان باشند.
نویسندگان می‌گویند پروتکل پیشنهادی با سنجش هم‌زمان درستی و توافق پاسخ‌ها، کنترل نشانه‌های معنایی، تکرار آزمون‌ها و بررسی کران‌های گردکردن دقیق، این خطاهای ارزیابی را از هم تفکیک می‌کند. نتیجه‌گیری مقاله به میدان‌ها، ورودی‌ها و پیکربندی‌های اجرایی بررسی‌شده محدود است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده