پژوهش
چالش اعتماد به پاسخ‌های هوش مصنوعی و پژوهش‌های ساختگی
سردبیر IEEE Spectrum می‌گوید با وجود سودمندی ابزارهایی مانند Claude و Gemini، پاسخ‌های چت‌بات‌ها همچنان نیازمند راستی‌آزمایی‌اند؛ تولید مقاله‌ای ظاهراً معتبر با هوش مصنوعی نیز پرسش‌هایی دربارهٔ توان تشخیص و داوری علمی مطرح می‌کند.
هری گلدستاین، سردبیر IEEE Spectrum، در مقاله‌ای دربارهٔ اعتماد به دانش می‌نویسد که بخشی از محتوای شبکه‌های اجتماعی را تصاویر و نوشته‌های تولیدشده با هوش مصنوعی پر کرده است؛ محتوایی که گاهی کاربران ناآگاهانه بازنشر می‌کنند و گاهی هم عمداً برای سرگرمی یا ایجاد سردرگمی منتشر می‌شود.
او یادآوری می‌کند که چت‌بات‌های دورهٔ GPT-3 می‌توانستند پاسخی نادرست اما باورپذیر و مطمئن ارائه کنند؛ پدیده‌ای که «توهم» هوش مصنوعی نام گرفت. به گفتهٔ گلدستاین، با گذشت شش سال و عرضهٔ نسخه‌های متعدد از چند چت‌بات، ابزارهایی مانند Claude و Gemini هنوز می‌توانند مفید باشند، اما او همچنان نمی‌تواند به پاسخ‌هایشان اعتماد کامل کند.
پرسش محوری مقاله این است که آیا ابزارهای تشخیص و فرایند داوری همتا می‌توانند با مقاله‌های ظاهراً معتبرِ تولیدشده با هوش مصنوعی همگام شوند یا نه.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: IEEE Spectrum — مشاهده منبع اصلی ↗