ارزیابی BioBERT و BioMistral برای پیش‌بینی نتیجهٔ کارآزمایی‌های بالینی

پیش‌چاپی در arXiv بررسی می‌کند که آیا مدل‌های زبانی تخصصی می‌توانند نتیجهٔ کارآزمایی‌های بالینی را در سطح فاز پیش‌بینی کنند. پژوهشگران BioBERT با ۱۰۸ میلیون پارامتر و BioMistral با ۷ میلیارد پارامتر را روی بنچمارک TOP، شامل ۱۲٬۴۷۷ کارآزمایی، ارزیابی کرده‌اند. هر کارآزمایی با متنی ساخته‌شده از ۱۰ فیلد ClinicalTrials.gov بازنمایی شده است.

این مطالعه دو روش را مقایسه می‌کند: ریزتنظیم کامل BioBERT و استفاده از low-rank adaptation برای BioMistral، در کنار روش probing. چکیدهٔ منبع در میانهٔ توضیح روش قطع می‌شود و اطلاعاتی دربارهٔ نتایج عملکرد مدل‌ها ارائه نمی‌دهد.

به گفتهٔ نویسندگان، روش‌هایی مانند Hierarchical Interaction Network (HINT) تعامل میان داروها، بیماری‌ها و پروتکل‌ها را مدل‌سازی می‌کنند، اما از متن آزاد ثبت کارآزمایی‌ها بهرهٔ محدودی می‌برند. پیش‌بینی شکست کارآزمایی‌ها می‌تواند به کاهش هزینه‌های توسعهٔ دارو و تأخیر در دسترسی بیماران به درمان‌های مؤثر کمک کند.