هوش مصنوعی

کشینگ پرامپت در Amazon Bedrock هزینه و تأخیر عامل‌های هوش مصنوعی را کاهش می‌دهد

راهکار پیشنهادی AWS هزینهٔ زمینه‌های تکرارشونده در اجرای چندمرحله‌ای عامل‌های هوشمند را هدف می‌گیرد.

۱ دقیقه مطالعه
File:Front of server racks at NERSC.jpg
تصویر آرشیوی واقعی؛ لزوماً متعلق به زمان این خبر نیست. — Derrick Coetzee from Berkeley, CA, USA · پرونده اصلی · CC0 1.0

AWS می‌گوید عامل‌های هوش مصنوعی با هر گام، پیش از اقدام دوباره کل زمینهٔ مکالمه را می‌خوانند. کشینگ پرامپت برای مدل‌های OpenAI در Amazon Bedrock می‌تواند با جلوگیری از ارسال دوبارهٔ ابزارها، دستورالعمل‌ها و تاریخچهٔ یکسان در هر نوبت، هزینهٔ ورودی و تأخیر را کاهش دهد.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: AWS AI Blog — مشاهده منبع اصلی ↗