معرفی مدل استدلالی LFM2.5-24B-A2B برای اجرای عامل‌های هوش مصنوعی روی دستگاه

Liquid AI مدل LFM2.5-24B-A2B را برای ساخت عامل‌های هوش مصنوعی سریع و خصوصی روی سخت‌افزار شخصی معرفی کرده است. این مدل ۲۴ میلیارد پارامتر دارد، اما در پردازش هر توکن فقط ۲ میلیارد پارامتر آن فعال می‌شود؛ به‌گفتهٔ سازنده، این ویژگی هزینهٔ هر گام استدلال را پایین می‌آورد و امکان اجرای پیوستهٔ عامل‌ها را فراهم می‌کند. مدل پیش از پاسخ نهایی زنجیرهٔ استدلال صریح تولید می‌کند و می‌تواند ابزارها را به‌کار بگیرد و وظایف چندمرحله‌ای را انجام دهد.

LFM2.5-24B-A2B معماری LFM2-24B-A2B را حفظ کرده است: ۴۰ لایه، ۶۴ expert در هر بلوک MoE با مسیریابی top-4 و ترکیبی از gated short convolutions و GQA. پنجرهٔ زمینه از ۳۲هزار به ۱۳۱هزار توکن افزایش یافته و واژگان tokenizer نیز با توسعه‌ای درجا از ۶۵هزار به ۱۲۸هزار توکن رسیده است؛ تغییری که به‌گفتهٔ Liquid AI، توکن‌سازی زبان‌های غیرلاتین را بهبود می‌دهد.

در آموزش، حجم پیش‌آموزش از حدود ۱۷ تریلیون به ۳۳ تریلیون توکن رسیده است. پس از آن، ۲ تریلیون توکن با زمینهٔ ۳۲هزار توکنی، با تمرکز بر استدلال، ریاضی، کدنویسی، پیروی از دستور و متن چندزبانه، و ۳۰۰ میلیارد توکن با زمینهٔ ۱۳۱هزار توکنی و تمرکز بر داده‌های بلندمتن به کار رفته است. فراخوانی ابزارها و مسیرهای چندمرحله‌ای در هر دو مرحلهٔ آموزش حضور داشته‌اند. Liquid AI می‌گوید تبدیل مدل پایه به عامل در پنج مرحلهٔ پس‌آموزش انجام شده، اما جزئیات این مراحل در اطلاعات منتشرشده در اینجا نیامده است.

Liquid AI مدل را در ۱۶ معیار، در برابر Qwen3.6-35B-A3B، Gemma-4-26B-A4B-it و Nemotron-3.5-Lightning سنجیده است. طبق نتایج اعلام‌شده، LFM2.5-24B-A2B در پنج معیار از هشت معیار استفاده از ابزار و گردش‌کار عامل‌محور، از جمله AutomationBench، BFCLv4 و ToolSandbox، رقیبان را پشت سر گذاشته یا با آن‌ها برابر شده است. در AutomationBench امتیازش بیش از سه برابر بهترین مدل بعدی بود. این مدل در هر سه معیار پیروی از دستور نیز پیشتاز بود.

در مقابل، مدل‌های بزرگ‌تر در معیارهای دانش‌محور مانند GPQA Diamond و HLE و معیارهای کدنویسی مانند SWE-Bench Verified (OpenCode) و SciCode برتری داشتند. Liquid AI برای کارهای متکی بر دانش گسترده، استفاده از بازیابی اطلاعات یا جست‌وجوی وب را در کنار مدل پیشنهاد می‌کند. ارزیابی‌ها با vLLM و پارامترهای تولید پیشنهادی هر معیار انجام شده‌اند؛ بنابراین نتایج گزارش‌شده به همین شیوهٔ سنجش مربوط‌اند.