پژوهش
چالش زمانبندی پرسوجوهای معنایی مبتنی بر مدلهای زبانی
پیشچاپی در arXiv به مسئلهٔ تغییرپذیری زمان اجرا در سامانههایی میپردازد که پردازش رابطهای را با چند عملگر مبتنی بر LLM روی دادههای بدونساختار ترکیب میکنند.

پژوهشگران میگویند سرویسدهی کارآمد به پرسوجوهای معناییِ مجهز به مدلهای زبانی بزرگ با دو نوع تغییرپذیری همزمان دشوار میشود: ورود پرسوجوهای تازه و تفاوت نیازهای منابع آنها، اولویتهای زمانبندی را تغییر میدهد؛ درون هر پرسوجو نیز تفاوت میان دستههای کوچک ورودی میتواند هزینهٔ عملگرها و میزان انتخابپذیری آنها را در طول اجرا دگرگون کند. در نتیجه، طرحی که از ابتدا بهصورت ایستا بهینه شده باشد ممکن است قابلاتکا نباشد.
این دو مسئله به هم وابستهاند: زمانبندی میان پرسوجوها به برآوردی از حجم کار باقیماندهٔ LLM نیاز دارد، اما این حجم کار به انتخابهای طرح اجرا وابسته است؛ هزینهٔ این انتخابها نیز فقط هنگام اجرا آشکار میشود. متن در دسترس از پیشچاپ، شرح مسئله را ارائه میکند و جزئیات راهکار پیشنهادی را نشان نمیدهد.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درجشده تنظیم شدهاند؛ صحت مستقل همه ادعاها تضمین نمیشود.
منبع: arXiv · AI (پیشچاپ) — مشاهده منبع اصلی ↗
پیشچاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده