هوش مصنوعی
پژوهشگران چارچوبی برای چت‌بات سلامت روان با پاسخ‌های متناسب با احساسات پیشنهاد کردند
این پیش‌چاپ به کاستی‌های همدلی و ایمنی در پاسخ‌گویی خودکار به افراد آسیب‌پذیر می‌پردازد و راهکاری پیش از استنتاج مدل پیشنهاد می‌کند.
پژوهشگران در مقاله‌ای پیش‌چاپ در arXiv، چارچوب PromptSense را برای رفع کاستی‌های چت‌بات‌های سلامت روان مبتنی بر مدل‌های زبانی بزرگ پیشنهاد کرده‌اند؛ کاستی‌هایی مانند همدلی و آگاهی زمینه‌ای ناکافی و ضعف سازوکارهای ایمنی که ممکن است به تعامل‌های بی‌اثر یا آسیب‌زا منجر شوند.
این چارچوب پیش از استنتاج مدل، احساسات و افسردگی را تحلیل و از فیلترهای قاعده‌محور استفاده می‌کند. سپس بر اساس نشانه‌های عاطفی و میزان خطر، پرامپت را به‌صورت پویا می‌سازد تا ارتباط، همدلی و توجه پاسخ‌ها به خطر افزایش یابد. پژوهشگران چهار راهبرد مدل و دو نسخهٔ مهندسی پرامپت را با معیارهایی از جمله همدلی، مفیدبودن، وضوح، ارتباط و ایمنی، و نیز ارزیابی سمیت بررسی کردند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗