هوش مصنوعی
مطالعه‌ای اکتشافی، خطر کمک ChatGPT به کارهای نظارتی را بررسی کرد
پژوهشگران در یک پیش‌چاپ arXiv، پاسخ‌های ChatGPT به ۱۱۰ درخواست مرتبط با نظارت را به‌صورت دستی ارزیابی کردند؛ چکیدهٔ در دسترس جزئیات نتایج را بیان نمی‌کند.
پژوهشگران در مطالعه‌ای اکتشافی بررسی کرده‌اند که رابط عمومی وب ChatGPT ممکن است چگونه به فعالیت‌های بالقوه زیان‌بار نظارتی کمک کند. آن‌ها با تکیه بر پژوهش‌های پیشین دربارهٔ خطرهای مدل‌های زبانی بزرگ و گزارش‌های سامانه‌های نظارتیِ به‌کارگرفته‌شده، چارچوبی شامل هفت دستهٔ خطر تدوین کردند و آن را در قالب ۱۱۰ درخواست آزمودند. پاسخ‌های ChatGPT نیز به‌صورت دستی بررسی شد.
در چکیده آمده است که درخواست‌ها با دو روش مطرح شدند و ۵۵ مورد از آن‌ها «جیل‌بریک» بودند؛ اما بخش در دسترس منبع، روش دوم و یافته‌های ارزیابی را شرح نمی‌دهد. مقاله نسخهٔ پیش‌چاپ است و مطالعه به رابط عمومی وب ChatGPT محدود می‌شود.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده