هوش مصنوعی
چرا متن استدلالی مدل‌های زبانی، پنجره‌ای دقیق به محاسبات درونی آن‌ها نیست؟
مقاله‌ای در Nature Machine Intelligence به چالش پایش مدل‌های زبانی بزرگ می‌پردازد: زنجیرهٔ استدلالیِ قابل‌خواندن آن‌ها لزوماً محاسبات واقعی درونی‌شان را توضیح نمی‌دهد.
مدل‌های زبانی پیشرفته برای حل مسئله به‌صورت گام‌به‌گام آموزش می‌بینند و متن استدلال خود را به زبانی قابل‌فهم برای انسان تولید می‌کنند. اما این متن‌ها توضیح دقیقی از محاسبات درونی مدل نیستند؛ محدودیتی که پایش رفتار این مدل‌ها را دشوار می‌کند. این موضوع در مقاله‌ای با عنوان «به‌سوی درک و پایش‌پذیری مدل‌های زبانی استدلال‌گر» در Nature Machine Intelligence مطرح شده است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: Nature Machine Intelligence — مشاهده منبع اصلی ↗
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده