FlyHash در بازیابی حافظهٔ عامل‌های زبانی، کیفیت جست‌وجو را بالا می‌برد؛ اما نه لزوماً سرعت را

عامل‌های مبتنی بر مدل‌های زبانی بزرگ برای نگه‌داشتن اطلاعات میان گفت‌وگوها معمولاً به حافظهٔ بیرونی متکی‌اند؛ حافظه‌ای که اغلب با embeddingهای برداری متراکم و جست‌وجوی تقریبی نزدیک‌ترین همسایه‌ها کار می‌کند. پژوهشگران در پیش‌چاپی تازه، FlyHash را برای بازیابی حافظهٔ عامل‌های زبانی به کار گرفته‌اند؛ روشی الهام‌گرفته از مدار بویایی مگس میوه که با تصویرسازی تصادفیِ تنک و سپس رقابت «برنده همه‌چیز را می‌برد»، ورودی را به کدی هش‌شده تبدیل می‌کند.

پژوهشگران گزارش می‌کنند که در مقایسه‌ای با تعداد بیت‌های همسان، FlyHash ساختار همسایگی را بهتر از SimHash حفظ کرده است. این برتری در چهار مجموعه‌داده از دو گونهٔ داده و طی ۱۰ اجرای مستقل دیده شد. آن‌ها همچنین می‌گویند مزیت روش با برچسب‌های مرتبط‌بودنِ واقعی برای حافظهٔ عامل باقی می‌ماند؛ برچسب‌هایی که به گفتهٔ پژوهشگران، برخلاف رویکرد رایج در این حوزه، صرفاً از شباهت embeddingها به دست نیامده‌اند.

اما برتری کیفی به صرفه‌جویی عملی در حافظه و زمان تبدیل نشد. در تعداد بیت برابر، کدهای FlyHash بزرگ‌تر از کدهای SimHash بودند و مقایسه‌شان نیز کندتر انجام شد؛ در مقیاس‌های معمول، HNSW هم از هر دو روش هش بهتر بود. مقایسهٔ مجموعه‌های تنک، بخش زیادی از فاصلهٔ زمانیِ مشاهده‌شده در مقایسهٔ ساده را جبران کرد، اما نه همهٔ آن را. بنابراین، نتیجهٔ مقاله دامنهٔ کاربرد عملی هش‌گذاری را محدودتر از چیزی می‌داند که برتری کیفیت به‌تنهایی القا می‌کند.

نویسندگان می‌گویند در جریان کار یک دام مقایسه‌ایِ پیش‌تر گزارش‌نشده را شناسایی و اصلاح کرده‌اند. آن‌ها کد، داده‌ها، یک نمونهٔ عملی از حافظهٔ عامل و شرح کامل خطاهای روش‌شناختی را نیز منتشر کرده‌اند.