هوش مصنوعی
روش TOPSD تشخیص می‌دهد مدل در چه بخش‌هایی از استدلال چندزبانه به راهنمایی نیاز دارد
پژوهشگران از پدیده‌ای به نام «انحراف معلم» می‌گویند که در زبان‌های کم‌منبع زودتر رخ می‌دهد و روشی پیشنهاد می‌کنند تا آموزش فقط روی بخش‌های قابل‌اصلاح استدلال انجام شود.
در خودتقطیری on-policy، مدل از استدلال‌های خودش یاد می‌گیرد و همان مدل، با دسترسی به پاسخ مرجع، نقش معلم را دارد. اما در استدلال چندزبانه، خطاهای پیاپی دانش‌آموز می‌تواند معلم را هم از مسیر درست منحرف کند: به‌جای اصلاح گام‌های نادرست، آن‌ها را دنبال کند. نویسندگان این پدیده را «انحراف معلم» می‌نامند و می‌گویند در زبان‌های کم‌منبع معمولاً زودتر بروز می‌کند.
روش پیشنهادی، Teachable On-Policy Self-Distillation (TOPSD)، با مقایسهٔ احتمال‌مندی‌های معلم و دانش‌آموز، نقطهٔ آغاز انحراف را تخمین می‌زند و پیشوندی از مسیر استدلال را برای نظارت انتخاب می‌کند. سپس بررسی می‌کند که آیا معلم می‌تواند از همان پیشوند به پاسخ درست برسد؛ تقطیر فقط برای پیشوندهایی انجام می‌شود که این آزمون را می‌گذرانند.
آزمایش‌های مقاله روی استدلال ریاضی در ده زبان و سه مقیاس مدل انجام شده است. بر اساس چکیدهٔ پژوهش، TOPSD در این آزمایش‌ها پیوسته از OPSD معمولی بهتر عمل کرده و برتری آن به‌ویژه در زبان‌های کم‌منبع و میان‌منبع دیده شده است. این مقاله در arXiv منتشر شده و پیش‌چاپ است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده