هوش مصنوعی
زیرعامل بازیابی پایدار، هزینه و زمان پاسخ‌گویی دستیارهای مکالمه‌ای را کاهش می‌دهد
پژوهشگران در یک پیش‌چاپ arXiv سه روش بازیابی اطلاعات را مقایسه کرده‌اند. روش پیشنهادی آن‌ها در پنج تنظیم چندنوبتی، در مقایسه با بازیابی در عامل اصلی، توکن مصرفی و هزینهٔ برآوردشده را کاهش داد؛ اما در برابر زیرعامل غیرپایدار، توکن و هزینهٔ بیشتری مصرف کرد.
دستیار مکالمه‌ای می‌تواند اطلاعات را خودش بازیابی کند یا این کار را به یک زیرعامل بسپارد. انتخاب میان این روش‌ها بر نحوهٔ نگهداری سابقهٔ بازیابی، زمینه‌ای که هر فراخوانی مدل دریافت می‌کند و نیاز به بازیابی دوبارهٔ اطلاعات در پرسش‌های بعدی اثر می‌گذارد. پژوهشگران در پیش‌چاپی در arXiv سه طراحی را سنجیده‌اند: بازیابی در عامل اصلی، زیرعامل غیرپایدار که پاسخِ یافته‌ها را تولید می‌کند و زیرعامل پایدار پیشنهادی که سابقهٔ بازیابی را میان نوبت‌ها نگه می‌دارد و شواهد بازیابی‌شده را مستقیم به عامل اصلی می‌دهد. عامل اصلی همچنین می‌تواند از همان زیرعامل بخواهد بازیابی را اصلاح کند.
در پنج تنظیم چندنوبتی، روش پایدار در مقایسه با بازیابی در عامل اصلی ۴۳٫۳ درصد توکن ثبت‌شدهٔ کمتری در سطح عامل و مدل مصرف کرد، هزینهٔ API برآوردشده را ۴۵ درصد پایین آورد و میانگین زمان پاسخ‌گویی را ۹٫۱ درصد کاهش داد. اما در مقایسه با زیرعامل غیرپایدار، برای هر پرسش ۱۵٫۶ ثانیه سریع‌تر بود، در حالی که ۶۵٫۱ درصد توکن بیشتر مصرف کرد و هزینهٔ برآوردشده‌اش ۲۹٫۱ درصد بالاتر بود.
در این طراحی، زیرعامل به‌جای ساخت پاسخ ترکیبی، وضعیت بازیابی را نگه می‌دارد و شواهد را در اختیار عامل اصلی می‌گذارد تا خودش آن‌ها را ارزیابی و برای تولید پاسخ استفاده کند. مقاله در نسخهٔ پیش‌چاپ منتشر شده و ارزیابی آن شامل پرسش‌های سازمانیِ مستقل، پرسش‌های مطرح‌شده در گفت‌وگوهای مشترک و پرسش‌های پیگیریِ وابسته است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده