خودآموزی تکراری پاسخ‌های مدل زبانی را مطمئن‌تر می‌کند، نه دقیق‌تر

پیش‌چاپی در arXiv اثر خودآموزی تکراری بر اطمینان مدل‌های زبانی را بررسی کرده است. پژوهشگران پنج دور خودآموزی را روی مدل Qwen3-1.7B و با سه seed برای هر روش آزموده‌اند و میان «دما»ی اطمینان و توانایی مدل در بالاتر رتبه‌دادن به پاسخ‌های درست تمایز گذاشته‌اند.

بر اساس چکیدهٔ پژوهش، دقت و توانایی کلی مدل در تفکیک پاسخ‌های درست از نادرست تقریباً تغییر نکرد؛ اما اطمینان مدل بیشتر شد و پاسخ‌هایی که مدل به آن‌ها بیشترین اطمینان را داشت، کمتر قابل‌اعتماد بودند. این نتیجه نشان می‌دهد تغییر اطمینان لزوماً با تغییر توانایی تشخیص پاسخ درست همراه نیست.

پژوهشگران همچنین روشی را آزمودند که در هر دور، آنتروپی پیش‌بینی مدل را با مدل آغازینِ کالیبره‌شده هم‌تراز می‌کند. این روش در کالیبره‌کردن دوبارهٔ اطمینان، تقریباً به‌اندازهٔ برازش دما با استفاده از برچسب‌ها مؤثر بود؛ نتیجه در مدل‌های ۱٫۷ و ۸ میلیاردپارامتری گزارش شده است. چکیده می‌گوید تیزترشدن اطمینان ویژگی ذاتی خودآموزی نیست، اما متن در دسترس جزئیات بیشتری دربارهٔ این نتیجه ارائه نمی‌کند.