هوش مصنوعی
ThinkJev تصمیم‌گیری سریع و استدلال چندمرحله‌ای را در یک مدل ترکیب می‌کند
پژوهشگران چارچوبی معرفی کرده‌اند که پاسخ مستقیم مدل را در کنار پاسخ پس از فکرکردن به کار می‌گیرد تا فقط در موارد لازم، هزینهٔ استدلال را بپردازد.
بسیاری از کاربردهای مدل‌های زبانی به انتخاب یک گزینه از میان مجموعه‌ای محدود ختم می‌شوند؛ انتخابی که احتمال‌های آن را می‌توان به کد داد. خواندن این احتمال‌ها در یک گذر از مدل سریع است، اما برای تصمیم‌های چندمرحله‌ای مانند محاسبه، شمارش و مقایسهٔ تاریخ‌ها اغلب به پاسخ نادرست می‌انجامد. فکرکردن پیش از پاسخ بیشتر این خطاها را برطرف می‌کند، اما زمان هر تصمیم را از چند میلی‌ثانیه به چند ثانیه می‌رساند.
ThinkJev با استفاده از یک مدل ترکیبیِ دارای قابلیت فکرکردن، دو سامانه می‌سازد: سامانهٔ سریع احتمال گزینه‌ها را از پاسخ مستقیم مدل می‌خواند و سامانهٔ کندتر همان احتمال‌ها را پس از فکرکردن مدل استخراج می‌کند. در هر دو حالت، مدل روی همان پرامپتِ ذخیره‌شده کار می‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗