هوش مصنوعی

پژوهشگران هدفِ فراموشی در مدل‌های زبانی را «ارتباط دانش» تعریف کردند

پیش‌چاپی در arXiv روشی برای حذف گزینشی دانش از مدل‌های زبانی پیشنهاد می‌کند که به‌جای بهینه‌سازی کل پاسخ، ارتباط میان زمینهٔ پرسش و دانش هدف را در نظر می‌گیرد.

۱ دقیقه مطالعه

مدل‌های زبانی بزرگ در مرحلهٔ پیش‌آموزش اطلاعات گسترده‌ای می‌آموزند که ممکن است حساس، خصوصی یا دارای حق‌نشر باشد. نویسندگان پیش‌چاپی در arXiv می‌گویند روش‌های رایجِ فراموشی معمولاً کل پاسخ مدل را بهینه می‌کنند، بی‌آنکه دانشِ موردنظر برای حذف را صریحاً مشخص کنند؛ در نتیجه، فراموشی می‌تواند گسترده و کنترل‌نشده باشد.

پژوهشگران مفهوم «ارتباط دانش» (Knowledge Association) را به‌عنوان هدف اصلی فراموشی معرفی می‌کنند: رابطهٔ میان زمینهٔ یک پرسش و دانش هدف، که آن را با توزیع پیش‌بینی شرطی متناظر صورت‌بندی می‌کنند. چکیدهٔ در دسترس، جزئیات بیشتری دربارهٔ روش یا نتایج آن ارائه نمی‌کند.

این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.

منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗

پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست