هوش مصنوعی
پژوهشگران «دسترسی فرادادهای» را راهی برای تبدیل چتبات به کنترلگر فضای کاری میدانند
پیشچاپی در arXiv پیشنهاد میکند دستیار هوش مصنوعی، با دسترسی ساختاریافته و مجوزدار به وضعیت برنامه، فراتر از گفتوگوی جاری عمل کند؛ رویکردی که میتواند کنترل کاربر را حفظ کند، اما خطرهایی مانند حریم خصوصی و تزریق دستور را هم به همراه دارد.

پژوهشگران در پیشچاپی با بررسی نمونهٔ اولیهٔ Meta Chat برای کلاینت Chat AI، رویکردی به نام «دسترسی فرادادهای» را شرح دادهاند: فراهمکردن دیدی ساختاریافته و محدودشده با مجوز از خود رابط و فضای کاری، نه فقط از گفتوگوی جاری. بهگفتهٔ آنها، این دسترسی میتواند چت را به نقطهٔ ورودی واحدی برای یافتن، پیمایش، سازماندهی و کار با بخشهای مختلف برنامه تبدیل کند.
این رویکرد طیفی از قابلیتها را در بر میگیرد: آموزش کاربر دربارهٔ امکانات، دسترسی به فرادادهها و تنظیمات، بازیابی خلاصهها و پیامهای مرتبط، انجام تغییرات پس از تأیید کاربر و در نهایت هماهنگکردن کامل عملیات. نمونهٔ Meta Chat با ساختن زمینهای محدود از خلاصهها، تنظیمات و پیامهای مرتبط کار میکند؛ ارجاعها را به گفتوگوها، موضوعها و شخصیتها پیوند میدهد و امکان تغییرهای تأییدشده و برگشتپذیر را فراهم میکند. این نمونه همچنین کتابخانهٔ آموزشی قابلمرور دارد و شخصیتها را برای گفتوگوهایی که کاربر آغاز میکند پیشنهاد میدهد.
نویسندگان هشدار میدهند که چنین دسترسیای پرسشهایی دربارهٔ اتکاپذیری پاسخها، حریم خصوصی، تزریق دستور و اعتماد ایجاد میکند. از آنجا که چارچوبهای عمومی عاملهای هوش مصنوعی میتوانند تنظیمات خود را تغییر دهند، دسترسی فرادادهای در این چارچوبها حالتی بازتابی پیدا میکند و به مرزی جداگانه برای کنترل نیاز دارد. پژوهش همچنین میگوید نمایش ساختاریافتهٔ وضعیت برنامه میتواند قابلیت صفحهخوانها را از توصیف عناصر رابط به انجام عملیات معنایی در فضای کاری گسترش دهد. نویسندگان پیشنهاد میکنند رابطهای آینده، از محیطهای توسعه تا سیستمعاملها، مدل ساختاریافته و مجوزداری از وضعیت و تواناییهای خود در اختیار دستیارها بگذارند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درجشده تنظیم شدهاند؛ صحت مستقل همه ادعاها تضمین نمیشود.
منبع: arXiv · AI (پیشچاپ) — مشاهده منبع اصلی ↗
پیشچاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده