پژوهش

روش DARS برای افزایش تنوع پاسخ‌های یادگرفته‌شده در یادگیری تقویتی

پیش‌چاپی در arXiv روشی معرفی می‌کند که با تعدیل پاداش بر اساس تراکم محلی پاسخ‌ها، نمونه‌برداری متناسب با پاداش را در فضاهای پیوسته تقویت می‌کند.

۱ دقیقه مطالعه
Figure 1: Terminal distributions on the navigation task.
تصویر درج‌شده در مقالهٔ اصلی؛ حقوق بازنشر مستقل تأیید نشده است. — arXiv · AI (پیش‌چاپ) · پرونده اصلی · منبع تصویر: ناشر خبر

در یادگیری تقویتی، بیشینه‌کردن بازده موردانتظار ممکن است احتمال را روی شمار محدودی از پاسخ‌های پُرپاداش متمرکز کند؛ مسئله‌ای که وقتی چند راه‌حل متفاوت مطلوب است، تنوع را کاهش می‌دهد. پژوهشگران در پیش‌چاپی با عنوان Density-Aware Reward Scaling (DARS)، سازوکاری برای تعدیل پاداش پیشنهاد کرده‌اند که هدفش حفظ تنوع پاسخ‌ها در فضاهای پیوسته است.

DARS تراکم محلی پاسخ‌ها را در هر گروه از نمونه‌های تولیدشده با سیاست جاری برآورد می‌کند و پاداش را به‌طور معکوس با این تراکم مقیاس می‌دهد. به گفتهٔ چکیده، این روش به مدل چگالیِ آموزش‌دیده، تابع هدف کمکی یا critic نیاز ندارد و تابع هدف پایهٔ policy-gradient را هم تغییر نمی‌دهد.

پژوهشگران در یک آزمایش کنترل‌شدهٔ ناوبری چندوجهی، DARS-GRPO را ارزیابی کرده‌اند. چکیده می‌گوید این روش از «singl…» جلوگیری می‌کند، اما متن ارائه‌شده پیش از کامل‌شدن نتیجه قطع شده است؛ بنابراین جزئیات نتیجه و میزان بهبود از اطلاعات موجود روشن نیست.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست