هوش مصنوعی
HiGenTrans دانش زبانی مدل‌های بزرگ را به سه مرحلهٔ توصیهٔ مولد وارد می‌کند
پیش‌چاپی در arXiv چارچوبی را معرفی می‌کند که می‌کوشد دانش معنایی مدل‌های زبانی را در ورودی، بازنمایی و تصمیم‌گیری سیستم‌های توصیه‌گر به کار بگیرد.
سامانه‌های توصیهٔ مولد با تولید خودرگرسیوِ شناسه‌های معنایی کالاها (SID) می‌توانند فرایند چندمرحله‌ای توصیه‌گرهای متداول را ساده‌تر کنند. اما به‌گفتهٔ نویسندگان پیش‌چاپ HiGenTrans، این روش در کاربردهای صنعتی با دو مانع روبه‌رو است: آموزش صرفاً بر پایهٔ تعامل‌ها از دانش معنایی مدل‌های زبانیِ ازپیش‌آموزش‌دیده به‌خوبی استفاده نمی‌کند و رتبه‌بندی مبتنی بر احتمال در beam search، توالی توکن‌ها را می‌سنجد، نه ارتباط مستقیم کالا با کاربر را.
HiGenTrans چارچوبی سه‌سطحی است که دانش مدل زبانی بزرگ را به ورودی، بازنمایی و تصمیم‌گیری وارد می‌کند. بخشی که چکیده شرح می‌دهد، Global Semantic Priming (GSP) نام دارد: این روش بازنمایی کاربرِ استخراج‌شده از مدل زبانی را به ابتدای embedding توالی اضافه می‌کند تا پیش از تولید SID، یک پیش‌فرض معنایی در اختیار مدل بگذارد. چکیدهٔ ارائه‌شده جزئیات دو سطح دیگر یا نتایج ارزیابی را بیان نمی‌کند.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده