هوش مصنوعی
روش TARGRS برای کاهش محتوای سمی در خروجی مدل‌های زبانی پیشنهاد شد
پیش‌چاپی در arXiv روشی برای هدایت خروجی مدل‌ها هنگام اجرا معرفی می‌کند که تغییر میان حالت‌های غیرسمی و سمی را در فضای بازنمایی در نظر می‌گیرد.
پژوهشگران در پیش‌چاپی با عنوان «LLM Detoxification via Transition-Aware Reward-Guided Representation Sampling» روش TARGRS را معرفی کرده‌اند؛ چارچوبی برای کاهش محتوای سمی در خروجی مدل‌های زبانی هنگام اجرا. به‌گفتهٔ چکیده، روش‌های هدایت بازنمایی موجود اغلب مداخله‌هایی ایستا یا کلی دارند و گذار میان تولیدهای غیرسمی و سمی را به‌اندازهٔ کافی مدل نمی‌کنند.
TARGRS با هدایت تدریجی در راستای بازنماییِ مرتبط با سمیت، مسیرهایی از حالت‌های غیرسمی به سمی می‌سازد. سپس امتیازهای سمیت در طول این مسیرها، برچسب‌های پراکنده را به نظارتی متراکم و فهرست‌محور تبدیل می‌کنند تا راهنمایی پاداش‌محورِ آگاه از گذار شکل بگیرد. متن در دسترس از چکیده پیش از توضیح کامل بخش مربوط به بازخوردِ توکنی قطع می‌شود و دربارهٔ نتایج ارزیابی جزئیاتی ارائه نمی‌دهد.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده