چارچوب CoCo می‌کوشد توان زبانی LLMها را به پیش‌بینی دقیق‌تر سری‌های زمانی پیوند بزند

پیش‌چاپی در arXiv چارچوبی به نام Context as Covariates (CoCo) معرفی می‌کند که اطلاعات متنی، مانند خبرها، گزارش‌ها و حاشیه‌نویسی‌ها، را به پیش‌بینی سری‌های زمانی وارد می‌کند. نویسندگان می‌گویند مدل‌های زبانی بزرگ (LLM) متن را تفسیر می‌کنند اما دقت عددی کافی ندارند؛ در مقابل، مدل‌های بنیادین سری زمانی (TSFM) در پیش‌بینی عددی توانمندند، ولی اثر اطلاعات متنی را تحلیل نمی‌کنند.

در CoCo، یک LLM استدلال متنی خود را به متغیرهای عددیِ پیش‌بینی و اطمینان تبدیل می‌کند و این متغیرها برای هدایت مدل TSFM به کار می‌روند. پژوهش همچنین روشی مقیاس‌پذیر برای ساخت مجموعه‌داده‌های چندوجهی پیشنهاد می‌کند: مدل‌های زبانی داده‌های سری زمانی واقعی را حاشیه‌نویسی می‌کنند تا نمونه‌های جفت‌شدهٔ متن و عدد تولید شود.

آموزش در دو مرحله انجام می‌شود: ابتدا LLM با روش Group Relative Policy Optimization (GRPO) تنظیم می‌شود و پاداش آن به میزان بهبود پیش‌بینی ناشی از متغیرهای پیشنهادی گره می‌خورد؛ سپس TSFM با متغیرهایی که LLM تنظیم‌شده تولید کرده، آموزش می‌بیند.

طبق چکیدهٔ پژوهش، مدل‌های آموزش‌دیده روی این مجموعه‌دادهٔ مصنوعی به بنچمارک‌های واقعی در حوزه‌های مالی، اقتصاد، آب‌وهوا، ترافیک و امنیت تعمیم می‌یابند. ترکیب Qwen3-4B-Instruct-2507 با Chronos2 در آزمایش‌ها تا ۱۲ درصد بهبود در MAE نسبت به مدل‌های پیشرفتهٔ سری زمانی و پیش‌بینی‌گرهای مبتنی بر LLM، از جمله GPT-4o، داشته است. این نتیجه حداکثری است و چکیده جزئیات بیشتری دربارهٔ شرایط مقایسه ارائه نمی‌کند. کد، چک‌پوینت‌ها و مجموعه‌داده‌های ارزیابی نیز در دسترس عموم قرار گرفته‌اند.