هوش مصنوعی
LeanGuard فراخوان ابزارهای عامل‌های هوش مصنوعی را پیش از اجرا بررسی می‌کند
این چارچوب پژوهشی سیاست‌های نوشته‌شده با Lean4 را بر فراخوان‌های پیشنهادی عامل اعمال می‌کند و برای درخواست‌های ردشده دو مسیر اصلاح در نظر می‌گیرد.
پیش‌چاپی در arXiv از LeanGuard رونمایی می‌کند؛ سامانه‌ای زمان‌اجرا که هر فراخوان ابزار پیشنهادیِ یک عامل مبتنی بر مدل زبانی را پیش از رسیدن به محیط با سیاست‌های تعریف‌شده در Lean4 می‌سنجد. هدف، جلوگیری از اجرای اقدام‌هایی است که با سیاست‌های حوزهٔ کاری عامل سازگار نیستند.
سیاست‌ها می‌توانند هم شرط‌های مربوط به وضعیت فعلی و هم عملگرهای زمانیِ گذشته‌نگرِ محدود به بخش‌هایی از سابقهٔ اجرا را در بر بگیرند. سامانه در صورت ابهام، فراخوان را رد می‌کند و نویسندگان می‌گویند رویهٔ تصمیم‌گیری آن با معناشناسی LeanLTL هم‌ارز اثبات شده است.
اگر فراخوانی رد شود، LeanGuard دو راه برای اصلاح دارد: در روش بازخورد، عامل قاعدهٔ نقض‌شده و راهنمایی دریافت می‌کند؛ در روش تعمیر مبتنی بر اثبات، metaprogramming در Lean نزدیک‌ترین فراخوانی را جست‌وجو می‌کند که هم قصد کاربر را حفظ کند و هم مجازبودنش طبق سیاست اثبات شود؛ این مسیر بدون دخالت مدل انجام می‌شود.
چکیدهٔ موجود می‌گوید سامانه روی Tau-Bench و با پنج مدل Qwen در بازهٔ ۰٫۸ تا ۲۷ میلیارد پارامتر ارزیابی شده است، اما متن در همین نقطه ناتمام می‌ماند و نتیجهٔ ارزیابی را گزارش نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده