هوش مصنوعی
پژوهشگران منشأ شواهد و ارجاعهای عاملهای زیستپزشکی را آزمودند
آزمایش BioAgent-DF نشان داد دو مدل میتوانند با تغییر در شواهد خواندهشده یا ارجاعها، همان نتیجهٔ قبلی را حفظ کنند.
پیشچاپی در arXiv روشی به نام BioAgent-DF را برای بررسی منشأ تصمیمهای عاملهای پژوهشی زیستپزشکی معرفی میکند. این روش، مقادیر مرجع و جایگزین را که در یک نقطه از محاسبهٔ علمی ذخیره شدهاند، در مختصات اصلیشان بازمیگرداند یا جابهجا میکند و سپس عامل را روی سختافزار سالم اجرا میکند.
در هشت دستهٔ SciFact، مدل Qwen3.5-4B در سه ترکیبِ مربوط به محل ثبت داده و ادعا، تغییر تکرارپذیر در ارجاعها نشان داد. در Gemma 3 4B IT، تغییر تکرارپذیر در شواهد خواندهشده و ارجاعها در چهار ترکیب دیده شد. این هفت ترکیب به دو ادعا مربوط بودند. با بازگردانی کامل دادهها، مجموعهٔ شواهد مرجع بازیابی شد، اما نتیجهگیریهای عاملها تغییر نکرد.
تغییر نتیجههایی که با دستور پایه مشاهده شده بود، هنگام استفاده از دستوری همراه با مثال صریح تکرار نشد. متن چکیدهٔ در دسترس جزئیات بیشتری دربارهٔ این آزمون ارائه نمیکند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درجشده تنظیم شدهاند؛ صحت مستقل همه ادعاها تضمین نمیشود.
منبع: arXiv · AI (پیشچاپ) — مشاهده منبع اصلی ↗
پیشچاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده