آزمونی رفتاری برای شناسایی تبانی پنهانی میان عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی ممکن است با قراردادی مخفی و از طریق پیام‌هایی ظاهراً بی‌ضرر هماهنگ شوند؛ در این حالت، پایشی که فقط متن پیام‌ها را بررسی کند، ممکن است تبانی را تشخیص ندهد. پژوهشگران در پیش‌چاپی در arXiv روشی به نام «شنیدن مثبتِ شریک در برابر عامل بیرونی» (Partner-Outsider Positive Listening یا PoPLi) معرفی کرده‌اند.

در این روش، پیام را طوری بازنویسی می‌کنند که معنایش ثابت بماند و سپس تغییر رفتار عامل همکار را با واکنش عاملی مقایسه می‌کنند که در جایگاه او قرار گرفته، اما در تبانی نقشی نداشته است. تفاوت واکنش این دو، پس از وقوع و با بازپخش درخواست‌های ثبت‌شده محاسبه می‌شود. چکیدهٔ مقاله می‌گوید این روش در یک بازار شبیه‌سازی‌شده با پنج وضعیت ارزیابی شده است؛ از نبود تبانی و پیام‌های خنثی تا استفاده از رمز مبتنی بر حرف اول و بیان آشکار قصد هماهنگی.