Concordat دسترسی عامل‌های هوش مصنوعی به ابزارها را بر اساس وضعیت محدود می‌کند

عامل‌های مبتنی بر مدل‌های زبانی بزرگ ممکن است کارهایی با پیامد مستقیم انجام دهند؛ از لغو رزرو و بازپرداخت وجه تا تغییر حساب کاربری. اما قواعدی مانند گرفتن تأیید صریح مشتری پیش از هر تغییری، معمولاً در پرامپت نوشته می‌شوند و رعایتشان به رفتار مدل وابسته است.

پژوهشگران در پیش‌چاپی با عنوان «Concordat: Typed Sessions for LLM Agents» کتابخانهٔ پایتونی Concordat را معرفی کرده‌اند. این کتابخانه رابط عامل را به‌صورت یک پروتکل حالت‌مند تعریف می‌کند؛ رویکردی که از مفاهیم typestate و session types الهام گرفته است. در هر نوبت، مدل فقط ابزارهای مجاز در وضعیت فعلی پروتکل را می‌بیند و فراخوانی ابزارهای خارج از این مجموعه پیش از آن‌که اثر جانبی داشته باشند، رد می‌شود.