پژوهش
SpecOPD آموزش موازی برای بهبود رمزگشایی حدسی مدل‌های زبانی را پیشنهاد می‌کند
پیش‌چاپی در arXiv چارچوبی معرفی می‌کند که جمع‌آوری داده برای تقطیر روی‌سیاست را موازی می‌سازد؛ جزئیات نتایج آن در چکیدهٔ در دسترس نیامده است.
رمزگشایی حدسی با پیش‌بینی چند توکن در هر گام می‌تواند هزینهٔ تولید ترتیبی متن را کاهش دهد، اما شتاب‌دهی آن همچنان به تعداد توکن‌هایی بستگی دارد که از پیش‌نویس پذیرفته می‌شوند. روش‌های پیشرفته از پیش‌نویس‌سازهای موازی برای پیش‌بینی بلوک‌های کامل استفاده می‌کنند؛ در مقابل، تقطیر روی‌سیاست می‌تواند عملکرد پیش‌نویس‌سازهای آموزش‌دیده را فراتر از سقف پذیرش بهبود دهد، اما فرایندهای متعارف آن به اجرای ترتیبیِ پیش‌نویس و راستی‌آزمایی متکی‌اند.
نویسندگان SpecOPD می‌گویند برای آموزش روی‌سیاست لازم نیست این وابستگی ترتیبی حفظ شود: می‌توان یک بلوک پیش‌نویس را تنها با پیشوند مرجع و سابقه‌ای که خود پیش‌نویس نمونه‌برداری کرده است، آموزش داد. چارچوب پیشنهادی، نمونه‌برداری از پیش‌نویس‌ها و فرایند تقطیر را به‌صورت شاخه‌ای و موازی پیش می‌برد. متن منبع موجود در اینجا پیش از شرح کامل روش و نتایج قطع می‌شود؛ بنابراین اطلاعاتی دربارهٔ میزان بهبود سرعت یا پذیرش ارائه نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده