هوش مصنوعی

ParetoSaddler می‌کوشد بهینه‌سازی عامل‌های زبانی را میان کیفیت و هزینه متعادل کند

این روش، به‌جای اعمال ترجیح نهاییِ استقرار در هر مرحله، پیشرفت‌های معتبر در کیفیت یا هزینه را برای ادامهٔ بهینه‌سازی می‌پذیرد.

۱ دقیقه مطالعه
Figure 2: Overview of ParetoSaddler. Repeated execution and statistical Pareto promotion identify candidates for development evaluation. The updated candidate pool and Pareto archive support continued optimization, with
تصویر درج‌شده در مقالهٔ اصلی؛ حقوق بازنشر مستقل تأیید نشده است. — arXiv · AI (پیش‌چاپ) · پرونده اصلی · منبع تصویر: ناشر خبر

پژوهشگران در پیش‌چاپی در arXiv روش ParetoSaddler را برای بهینه‌سازی «هارنس» عامل‌های مبتنی بر مدل‌های زبانی بزرگ معرفی کرده‌اند؛ یعنی اجزای پیرامونی عامل که بدون تغییر وزن‌های مدل می‌توانند عملکرد آن را بهبود دهند. به‌گفتهٔ چکیده، روش‌های موجود عمدتاً کیفیت پاسخ را هدف می‌گیرند، اما بهینه‌سازی هم‌زمان کیفیت و هزینه دشواری‌ای دارد: اگر ترجیح مربوط به استقرار از همان به‌روزرسانی‌های میانی اعمال شود، ممکن است نامزدهایی که بعداً امکان بهبود دارند زودهنگام کنار گذاشته شوند.

در ParetoSaddler، انتخاب نامزدها برای ادامهٔ بهینه‌سازی از گزینش نهایی برای استقرار جداست. در هر تکرار، بهینه‌ساز یک هارنس والد را به نامزدی تازه تبدیل می‌کند؛ سپس عملکرد هر دو را در اجراهای تکرارشونده مقایسه می‌کند و با استفاده از «پشتیبانی پارتوییِ بوت‌استرپ بیزی»، نامزدهایی را ارتقا می‌دهد که شواهد معتبری از پیشرفت در کیفیت یا هزینه نشان دهند. چکیدهٔ در دسترس در میانهٔ توضیح روش قطع می‌شود و جزئیات بیشتری از نتایج یا سازوکار انتخاب نهایی ارائه نمی‌کند.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست