هوش مصنوعی
روش حذف درِپشتی از مدل‌های LoRA بدون بازآموزی، نرخ موفقیت حمله را به زیر ۱۰ درصد رساند
پژوهشگران با تصویرسازی جهت‌های مرتبط با درِپشتی و فرافکنی به فضای پوچ متعامد، حمله‌ها را کاهش دادند و توانایی‌های مدل را حفظ کردند.
پژوهشی منتشرشده در arXiv روشی برای پاک‌سازی مدل‌های زبانی بزرگِ تنظیم‌شده با LoRA معرفی می‌کند که به دانستن محرک حمله، دسترسی به داده‌های مرجع پاک یا بازآموزی پارامترهای مشکوک نیاز ندارد. نویسندگان می‌گویند هدف، کاهش نرخ موفقیت حمله درِپشتی (ASR) و هم‌زمان حفظ قابلیت‌های عمومی مدل پایه و مهارت‌هایی است که آداپتر در تنظیم برای وظایف پایین‌دستی آموخته است.
در این روش، پژوهشگران با گزینش داده و تقریب ویژگی، جهت‌های مرتبط با درِپشتی را استخراج می‌کنند؛ سپس برای هر لایه یا سر، در کانال‌های ورودی و خروجی فضای پوچ متعامدی می‌سازند و به‌روزرسانی‌های LoRA را به آن فرافکنی می‌کنند. آزمایش‌های گزارش‌شده از یک لایه در طبقه‌بندی متن تا مدل زبانی کامل در کار مولد گسترش یافته‌اند. بر اساس چکیدهٔ مقاله، این روش ASR را از نزدیک به ۱۰۰ درصد به کمتر از ۱۰ درصد رساند و عملکرد بی‌خطر مدل و توانایی‌های آموخته‌شدهٔ آداپتر را حفظ کرد.
این مقاله پیش‌چاپ arXiv است و در صفحهٔ آن، NeurIPS 2026 به‌عنوان محل ارائه ذکر شده است.
این گزارش به کمک هوش مصنوعی تهیه شده است. مطالب براساس منابع درج‌شده تنظیم شده‌اند؛ صحت مستقل همه ادعاها تضمین نمی‌شود.
منبع: arXiv · AI (پیش‌چاپ) — مشاهده منبع اصلی ↗
پیش‌چاپ پژوهشی در arXiv؛ انتشار در این مخزن به معنی داوری همتا نیست
رد این داستان در رادار
خبرهای مرتبط از آرشیو منتشرشده