ممنوعیت یک مسیر بروز، ویژگی پنهان را به مسیر دیگری می‌راند

پژوهشگران در دو آزمونِ زنجیرهٔ ترجیح و زنجیرهٔ نام، با دو مدل، شش قالب خروجی و ۱۶ ویژگی، مسیرهای بروز یک ویژگی را یکی‌یکی بستند. به‌گزارش چکیدهٔ پیش‌چاپ، ممنوعیت توکن‌هایی که ویژگی از طریق آن‌ها نمایان می‌شد، آن را حذف نکرد؛ ویژگی به مسیرهایی منتقل شد که قالب همچنان اجازه می‌داد. نویسندگان این پدیده را «اثر بادکنکی» نامیده‌اند: فشردن یک بخش، باعث برآمدن بخش دیگری می‌شود.

این مطالعه دربارهٔ «یادگیری ناخودآگاه» نیز هشدار می‌دهد: مدل‌ها ممکن است از خروجی مدل‌های دیگر ویژگی‌هایی را کسب کنند که در آن خروجی‌ها صریحاً ذکر نشده‌اند؛ از جمله ترجیح یک حیوان که در فهرست اعداد حمل شده باشد. چکیده می‌گوید چنین یادگیری‌ای می‌تواند ویژگی‌های نامطلوب را منتقل کند. اطلاعات موجود، جزئیات بیشتری دربارهٔ روش‌ها یا نتایج مطالعه ارائه نمی‌کند.