پژوهش: خودبهبوددهی عامل هوش مصنوعی لزوماً دامنهٔ وظایف قابل‌پذیرش را گسترش نمی‌دهد

پیش‌چاپی در arXiv با عنوان «Verification and Self-Improvement in Agentic AI: Foundations and Limits» چارچوبی برای سنجش خودبهبوددهی عامل‌های هوش مصنوعی پیشنهاد می‌کند. بر اساس چکیده، یک عامل ممکن است با گذشت زمان پاسخ‌های پذیرفته‌شده را بیشتر پیدا کند، بی‌آنکه دامنهٔ وظایفی را که رابط راستی‌آزمایی آن می‌تواند بپذیرد گسترش دهد.

پژوهشگران با افزودن رابط‌های صریح برای پشتیبانی و ثبت تعامل، میان بهبود جست‌وجو و تغییر در پوشش وظایف پذیرفته‌شده فرق می‌گذارند. آن‌ها «دامنهٔ بومی» یک مرحله را وظایفی تعریف می‌کنند که با پشتیبانی پیش‌فرض پذیرفته می‌شوند و «مرز گسترش» را وظایفی می‌دانند که با هر نوع پشتیبانی مجاز در رابط اعلام‌شده پذیرفته می‌شوند. چکیده همچنین از معیاری برای شناسایی شرایط اختیار یا افشا که هر عبورِ تأییدشده از این مرز باید آن‌ها را نقض کند، و از اصلی برای جلوگیری از آن‌که تغییر بازنمایی به‌اشتباه گسترش توانایی شمرده شود، نام می‌برد.

برای نشان‌دادن این تمایز، مقاله یک عامل اجراییِ تعمیر برنامه‌های Boolean را به کار می‌گیرد؛ اما متن در دسترس، جزئیات آزمایش‌ها یا نتایج آن را ارائه نمی‌کند.