هوش مصنوعی
عامل‌های هوش مصنوعی اغلب درمان را پیدا می‌کنند، اما علت را نه
پیش‌چاپی در arXiv نشان می‌دهد هر هفت مدل زبانی بررسی‌شده در بازگرداندن سامانه‌های مصنوعی به وضعیت سالم موفق‌تر از تشخیص نقص پنهان عمل کرده‌اند.
در آزمایش‌هایی با سامانه‌های تنظیمیِ مصنوعی، عامل‌های هوش مصنوعی باید با آزمایش‌کردن، نقص پنهان را شناسایی و پیامد آن را برطرف می‌کردند. پژوهشگران گزارش می‌کنند که هر هفت مدل زبانی بررسی‌شده، بیشتر از آنکه علت نقص را درست تشخیص دهند، توانستند وضعیت سالم را بازگردانند.
Claude Opus 4.6 و Sonnet 4.6 همهٔ سامانه‌ها را به وضعیت سالم رساندند، اما به‌ترتیب فقط در ۵۵ و ۳۵ درصد موارد نقص را درست تشخیص دادند. بر پایهٔ چکیدهٔ مقاله، این فاصله را نمی‌توان صرفاً به کاوش ناکافی یا نبود شواهد نسبت داد: در ۹۱ درصد نشست‌های مرتبط، عامل‌ها با شواهدی روبه‌رو شدند که میان علت‌های رقیب تمایز می‌گذاشت، اما همچنان در موارد زیادی تشخیص نادرست دادند.
این پژوهش در قالب پیش‌چاپ در arXiv منتشر شده است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده