اپل روشی مبتنی بر شبکه‌های عصبی کوچک برای بازیابی سریع‌تر در RAG معرفی کرد

بازیابی برداریِ بیشینهٔ ضرب داخلی (MIPS) در سامانه‌های جست‌وجو، پیشنهاد محتوا و تولید افزوده با بازیابی (RAG) به‌کار می‌رود. این روش برای یافتن کلید برداریِ منطبق‌تر با پرس‌وجو، میان میلیون‌ها گزینه جست‌وجو می‌کند؛ در RAG، سند متناظر با بهترین گزینه معمولاً پیش از پرس‌وجو به مدل داده می‌شود.

با افزایش شمار کلیدها به میلیون‌ها و ابعاد بردارها به هزاران، مقایسهٔ کامل پرس‌وجو با همهٔ کلیدها پرهزینه می‌شود. روش‌های تقریبی رایج با خوشه‌بندی و کوانتیزه‌سازی سرعت را بالا می‌برند، اما به گفتهٔ پژوهشگران، معمولاً یا ویژگی‌های خود پرس‌وجوها را نادیده می‌گیرند یا فرض می‌کنند پرس‌وجوها از نظر هندسی شبیه کلیدها هستند. این فرض در RAG مسئله‌ساز است: پرس‌وجوها اغلب سؤال‌های کوتاه کاربران‌اند، درحالی‌که کلیدها متن‌هایی طولانی، پربار و گزینش‌شده را نمایندگی می‌کنند.

در مقالهٔ «Amortizing Maximum Inner Product Search with Learned Support Functions» که برای ICML 2026 ارائه شده، پژوهشگران اپل روشی پیشنهاد کرده‌اند که در آن شبکه‌های عصبی کوچک، یک‌بار و به‌صورت آفلاین برای پایگاه داده‌ای ثابت از کلیدها آموزش می‌بینند. این شبکه‌ها یاد می‌گیرند پرس‌وجوهای متداول را سریع‌تر به گزینهٔ مناسب هدایت کنند. روش، هزینهٔ اولیهٔ یادگیری الگوی تطبیق پرس‌وجوها را می‌پذیرد تا هنگام اجرا بازیابی سریع‌تر و دقیق‌تری فراهم کند. پژوهشگران همچنین می‌گویند سامانه‌های تولیدی معمولاً مجموعه‌ای پایدار و شناخته‌شده از کاربران و توزیع پرس‌وجوها دارند؛ بنابراین روش‌های متناسب با ورودی‌های محتمل می‌توانند از اطلاعاتی بهره ببرند که رویکردهای عمومی و مستقل از پرس‌وجو استفاده نمی‌کنند.