ارزیابی نقش LLMها در شناسایی ناهنجاری‌های سری زمانی بدون آموزش اختصاصی

پژوهشگران در مقاله‌ای منتشرشده در arXiv، استفاده از مدل‌های زبانی بزرگ (LLM) را برای شناسایی ناهنجاری در سری‌های زمانی چندمتغیره بررسی کرده‌اند. مسئله‌ای که به‌گفتهٔ نویسندگان با کمبود داده‌های برچسب‌خورده و نیاز به دقت بالا در تشخیص ناهنجاری‌های محلی دشوار می‌شود.

به‌جای به‌کارگیری LLM برای پیش‌بینی یا بازسازی سری زمانی، پژوهشگران پیشنهاد می‌کنند مدل فقط نقش استخراج‌کنندهٔ ویژگی را داشته باشد. آن‌ها ویژگی‌های به‌دست‌آمده را در رویکردی صفرنمونه‌ای ارزیابی می‌کنند: فرض این است که ویژگی‌های مربوط به ناهنجاری از ویژگی‌های داده‌های عادی جداافتاده‌اند. برای حفظ جزئیات زمانی و متغیرها نیز هر گام زمانی به‌صورت یک توکن در نظر گرفته می‌شود و کیفیت نمایش‌ها با الگوریتم بدون‌ناظر Isolation Forest سنجیده می‌شود.

نویسندگان می‌گویند روش‌های مبتنی بر پیش‌بینی یا بازسازی ممکن است با افزایش ظرفیت مدل نامطمئن شوند؛ زیرا مدل‌های توانمندتر می‌توانند خودِ ناهنجاری‌ها را هم پیش‌بینی یا بازسازی کنند. چکیدهٔ در دسترس نتیجهٔ عددی مشخصی ارائه نمی‌کند، اما می‌گوید پژوهش توانایی مدل‌ها در بازنمایی سری‌های زمانی چندمتغیره و نقش پیش‌آموزش زبانی را بررسی می‌کند.