پیش‌چاپی روش تازه‌ای برای فشرده‌سازی درون‌مدلیِ زمینه در عامل‌های زبانی معرفی می‌کند

پیش‌چاپی در arXiv با معرفی روش Agentic Soft-Token Compression (ASTC)، رویکردی بدون نیاز به آموزش برای فشرده‌سازی زمینه در عامل‌های مبتنی بر مدل زبانی بزرگ پیشنهاد می‌کند. به گفتهٔ نویسندگان، طولانی‌شدن تاریخچهٔ تعامل‌ها هزینهٔ محاسباتی را بالا می‌برد و شواهد مهم برای تصمیم‌گیری را در میان زمینه پنهان می‌کند. روش‌های رایج معمولاً از فشرده‌ساز یا عامل مدیریت زمینهٔ بیرونی کمک می‌گیرند تا متن را به دنباله‌ای کوتاه‌تر از توکن‌های معمولی تبدیل کنند؛ نویسندگان می‌گویند این انتخاب بیرونی ممکن است با بازنمایی در حال تحول مدل هم‌راستا نباشد و ناگزیر بخشی از اطلاعات را از دست بدهد. ASTC به‌جای آن از توکن‌های نرم درون عامل و پویایی بازگشتی خود مدل بهره می‌گیرد. چکیدهٔ در دسترس توضیح می‌دهد که این سازوکار برای تعیین بخش‌هایی از زمینه به کار می‌رود که مدل پیش‌تر جذب کرده است، اما شرح کامل روش و نتایج ارزیابی در اطلاعات ارائه‌شده نیامده است.