هوش مصنوعی
روش RAL می‌کوشد آموزش استدلال مدل‌های زبانی را فقط با پاسخ‌های مرجع پیش ببرد
پیش‌چاپی در arXiv روشی را معرفی می‌کند که در آن داور زبانیِ هم‌آموزش‌دیده، پاسخ‌های مرجع را به تنها منبع پاداش برای آموزش پسینی تبدیل می‌کند.
بسیاری از پاسخ‌های باکیفیت را می‌توان تشخیص داد، اما امتیازدهی صریح به آن‌ها دشوار است. پژوهشگران در پیش‌چاپی تازه، روش «یادگیری تقابلی تقویتی» (RAL) را پیشنهاد کرده‌اند: در این روش، یک داور زبانیِ هم‌آموزش‌دیده از پاسخ‌های مرجع به‌تنهایی برای پاداش‌دهی به آموزش پسینیِ برخط مدل‌های استدلالی استفاده می‌کند؛ بی‌آنکه به ردپاهای استدلالی مرجع نیاز باشد.
به‌گفتهٔ نویسندگان، یادگیری تقویتی با پاداش‌های قابل‌راستی‌آزمایی (RLVR) به وظایفی محدود است که سیگنال صریحی برای تشخیص پاسخ درست دارند. آن‌ها می‌گویند روش‌های تقابلی پیشین یا پاداش‌های قابل‌راستی‌آزمایی را با منتقدانِ هم‌آموزش‌دیده ترکیب می‌کردند، یا به ردپاهای استدلال مرجع نیاز داشتند. پژوهشگران RAL را ابتدا در سه وظیفهٔ قابل‌راستی‌آزمایی می‌آزمایند: ضرب اعداد صحیح، ساخت عبارت حسابی با کد و تبدیل SMILES به… . چکیدهٔ منتشرشده در منبع در همین نقطه ناتمام است و نتیجهٔ این ارزیابی‌ها را بیان نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده