هوش مصنوعی

اتصال مدل DNA به مدل زبانی با یک نگاشت خطیِ بدون آموزش

پیش‌چاپی در arXiv گزارش می‌کند روشی به نام Socket می‌تواند ویژگی‌های DNA را به نمایش درونی مدل‌های زبانی منتقل کند، بی‌آنکه خود مدل زبانی آموزش داده شود.

۲ دقیقه مطالعه

پژوهشگران در پیش‌چاپی تازه روشی به نام Socket معرفی کرده‌اند که مدل بنیادین DNA یعنی Evo 2 را به مدل‌های زبانی بزرگ متصل می‌کند. این روش برای پاسخ‌گویی به پرسش‌های ژن‌محور، به‌جای آموزش یک اتصال‌دهنده یا بازآموزی مدل زبانی، با یک رگرسیون Ridge نگاشتی بسته‌فرم می‌سازد. این نگاشت ویژگی‌های ثابت Evo 2 را به نمایش درونی مدل زبانی از نماد، نام و توضیح ژن تبدیل می‌کند؛ خروجی آن در لایه‌ای اولیه جای حالت پنهانِ محل‌های مشخص‌شده را می‌گیرد و در مدل زبانی گرادیانی اعمال نمی‌شود.

آزمون روی بنچمارک چندگزینه‌ای پنج‌گزینه‌ای GeneHop انجام شد؛ داده‌ها بر اساس همولوژی تقسیم شده بودند. در یک اجرای آزمونِ کنارگذاشته‌شده، با طرح تحلیل ازپیش‌تعیین‌شده، DNA واقعی در مقایسه با DNA درهم‌ریخته در هر چهار مدل نتیجه بهتری داشت: ۲۲٫۲ واحد درصد در Qwen3.5-4B، ۲۶٫۱ واحد در Qwen3.6-27B، ۱۶٫۷ واحد در Mistral-7B و ۱۸٫۴ واحد در OLMo-2-7B. بازه‌های گزارش‌شده به‌ترتیب ۱۹٫۸ تا ۲۵، ۲۴٫۳ تا ۲۷٫۹، ۱۴٫۲ تا ۱۹٫۷ و ۱۶٫۲ تا ۲۱ واحد درصد بود. هر چهار نتیجه پس از اصلاح Holm همچنان معنادار گزارش شدند؛ کنترل‌های تهی حداکثر دو واحد با سطح شاهد فاصله داشتند و نتایج توسعه نیز حداکثر ۲٫۳ واحد با نتایج آزمون اختلاف داشتند.

قاعده‌ای برای انتخاب لایه، بدون استفاده از داده‌های خودِ وظیفه، روی سه مدل تعیین شد و پیش از امتیازدهی اتصال DNA روی مدل چهارم، لایهٔ مناسب آن را پیش‌بینی کرد. همچنین یک نگاشت خطیِ مبتنی بر متن اجازه داد از یک اتصال‌دهنده برای مدل‌های دیگر استفاده شود؛ افت عملکرد روی آزمون حداکثر ۰٫۹ واحد درصد بود. بازیابی نزدیک‌ترین همسایه ۷۲ تا ۸۴ درصد از اثر روش را بازتولید کرد، اما Socket در همهٔ مدل‌ها ۳ تا ۵٫۲ واحد درصد بهتر بود و بخش عمدهٔ اثرش را حتی بدون آموزش روی ژن‌های همولوگ حفظ کرد. این نتایج در پیش‌چاپ arXiv گزارش شده‌اند.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست