چرا مدل‌های صوتی‌ـ‌زبانی از تاریخچهٔ نامرتبط پاسخ اشتباه می‌سازند؟

مدل‌های بزرگ صوتی‌ـ‌زبانی برای پشتیبانی از گفت‌وگوی چندمرحله‌ای، تاریخچهٔ صوتی را نگه می‌دارند. اما مطالعهٔ تازه‌ای در arXiv بررسی می‌کند چرا اطلاعات قدیمی و نامرتبط، حتی وقتی رویداد مورد پرسش همچنان در دسترس مدل است، پاسخ را تغییر می‌دهد.

پژوهشگران در آزمایش‌های کنترل‌شده روی MOSS-Audio و MiMo-Audio دریافتند که مقادیر موجود در تاریخچه، خطاها را به سمت پاسخ‌های رقیب مشخصی سوق می‌دهند؛ اثری که صرفاً با طولانی‌تر شدن زمینه توضیح داده نمی‌شود.

مداخله‌های علّی دو مسیر را از هم جدا کرد. در پرسش‌وپاسخ تشریحی، بیشتر خطاهای ناشی از مقادیر تاریخی از بین رفتند وقتی محاسبات بعدی دیگر دسترسی مستقیم به منبع نامرتبط نداشتند. اما در پرسش‌های چندگزینه‌ای، بسیاری از خطاها باقی ماندند؛ در این حالت، اثر اولیهٔ تاریخچه از راه نمایش پرسش منتقل می‌شود. چکیدهٔ منتشرشده جزئیات بیشتری از این مسیر ارائه نمی‌کند.