روش تازه‌ای برای فشرده‌سازی حافظهٔ عامل‌های هوش مصنوعی، ساختارهای دوردست را هم حفظ می‌کند

پیش‌چاپی در arXiv روشی به نام locality-aware quantization یا LAQ معرفی می‌کند که برای فشرده‌سازی حافظهٔ عامل‌های هوش مصنوعی طراحی شده است. نویسندگان می‌گویند روش‌های متداول معمولاً می‌سنجند که آیا نزدیک‌ترین همسایه‌های هر خاطره پس از فشرده‌سازی حفظ می‌شوند یا نه؛ اما کارهایی مانند ادغام، حذف و مقایسهٔ خاطره‌ها به حفظ روابط میان موارد دور از هم نیز وابسته‌اند.

پژوهش با دو معیارِ بدون برچسب، وفاداری محلی و کلی را می‌سنجد. در آزمایش با ۹۶ بایت برای هر متن، کدهای دودوییِ بازامتیازدهی‌شده به وفاداری محلی ۰٫۹۷ رسیدند، اما ۱۰٫۱ درصد از متن‌ها را به مضمونی دیگر منتقل کردند. در مقابل، PCA با کدهای ۸بیتی وفاداری محلی ۰٫۷۷ داشت و ۱٫۷ درصد از متن‌ها را جابه‌جا کرد. بازامتیازدهی کدهای ذخیره‌شده را تغییر نمی‌دهد و در نتیجه وفاداری کلی را هم دست‌نخورده می‌گذارد.

LAQ با افزودن یک تابع هدف hinge به codebookهای یک شاخص OPQ، ساختار دوردست را هدف می‌گیرد و به گفتهٔ پژوهشگران، اندازهٔ داده، چرخش و سازوکار جست‌وجوی شاخص را تغییر نمی‌دهد. در ۵۲ اجرای نگه‌داشته‌شده برای ارزیابی، بازسازی به‌تنهایی در هیچ‌کدام وفاداری کلی را افزایش نداد؛ در مقابل، افزودن جریمهٔ مربوط به روابط دوردست در هر ۵۲ اجرا آن را بالا برد. خود LAQ نیز در همهٔ این اجراها بهبود ثبت کرد؛ نتیجه‌ای که در ۱۳ گروه رمزگذار حافظه از نظر آماری معنادار گزارش شده است.

نویسندگان همچنین می‌گویند LAQ در هر ۱۲ اجرای مجموعهٔ Multi-Doc-2025 بالاترین وفاداری کلی را میان هفت روش هم‌اندازه داشت، تا یک میلیون متن مقیاس‌پذیر بود و بازیابی شواهد را حفظ کرد. این مقاله نسخهٔ پیش‌چاپ است.