هوش مصنوعی
پژوهشگران نشانه‌هایی از شناخت کتاب‌های پولی در GPT-4o یافتند
آزمونی روی ۳۴ کتاب دارای حق‌نشر از انتشارات O’Reilly نشان داد پاسخ‌های GPT-4o با شناخت محتوای این کتاب‌ها سازگار است؛ نتیجه به‌تنهایی ثابت نمی‌کند مدل به آن‌ها دسترسی داشته یا با آن‌ها آموزش دیده است.
پژوهشگران با استفاده از مجموعه‌داده‌ای که به‌طور قانونی تهیه شده بود، ۱۳٬۹۶۲ بند از ۳۴ کتاب پولی O’Reilly Media را بررسی کردند. آن‌ها با حملهٔ استنتاج عضویت DE-COP آزمودند که آیا مدل‌های OpenAI نشانه‌هایی از شناخت محتوای غیرعمومیِ کتاب‌هایی دارند که مجوز آموزش با آن‌ها را نداشته‌اند.
در نمونهٔ بررسی‌شده، GPT-4o الگویی سازگار با شناخت این کتاب‌ها نشان داد: امتیاز AUROC آن ۰٫۸۲ بود و فاصلهٔ اطمینان ۹۵درصدیِ برآوردشده با بوت‌استرپ بین ۰٫۶۰ و ۰٫۹۶ قرار داشت. امتیاز بالاتر از ۰٫۵۰ بهتر از حدس تصادفی است. چکیدهٔ در دسترس نتیجهٔ GPT-3.5 Turbo و GPT-4o Mini را کامل گزارش نمی‌کند.
نویسندگان می‌گویند تمرکز بر کتاب‌های غیرعمومی امکان بررسی احتمال دسترسیِ بدون مجوز را فراهم می‌کند، نه صرفاً اینکه اثری در داده‌های آموزش بوده است. بااین‌حال، نتیجهٔ گزارش‌شده فقط از الگویی سازگار با شناخت محتوا حکایت دارد و به‌تنهایی اثبات نمی‌کند که کتاب‌ها در آموزش مدل به کار رفته‌اند یا دسترسی به آن‌ها نقض مجوز بوده است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده