هوش مصنوعی در جنگ سودان؛ مفیدتر در موقعیت‌هایی که راستی‌آزمایی دشوارتر است

پژوهشی اکتشافی دربارهٔ شبکهٔ امدادرسانی محلی «اتاق‌های واکنش اضطراری» (ERRs) در سودان نشان می‌دهد جنگ هم ارزش هوش مصنوعی مولد را برای امدادگران افزایش می‌دهد و هم شرایط استفادهٔ مسئولانه از آن را تضعیف می‌کند. این پژوهش بر پیمایشی با ۸۹ پاسخ‌دهنده و ۱۵ مصاحبهٔ نیمه‌ساختاریافته با کاربران و غیرکاربران GenAI استوار است.

به گفتهٔ پژوهشگران، امدادگران وقتی به هوش مصنوعی روی می‌آوردند که دسترسی به تخصص انسانی به‌دلیل درگیری دشوار یا خطرناک بود؛ اما همین موقعیت‌ها می‌توانستند بررسی خروجی‌ها را سخت‌تر کنند. شرکت‌کنندگان هشدار دادند که GenAI نمی‌تواند به‌تنهایی وضعیت محلیِ به‌سرعت در حال تغییر را تشخیص دهد و اتکا به پاسخ‌هایش، در نبود راستی‌آزمایی انسانی، ممکن است به تصمیم‌های زیان‌بار بینجامد.

خطرها به مرحلهٔ استفاده از ابزار محدود نبودند: همراه داشتن تلفن یا اتصال به اینترنت می‌توانست بعضی داوطلبان را در معرض خطر قرار دهد. همچنین، برخی نگران بودند که واردکردن اطلاعات حساس مربوط به دریافت‌کنندگان کمک یا عملیات، جان افراد را به خطر بیندازد. گزارش‌های تهیه‌شده با کمک هوش مصنوعی نیز ممکن بود اعتبار امدادگران را نزد اهداکنندگانی که بودجهٔ کمک‌های غذایی و پزشکی ERRها را تأمین می‌کنند، تضعیف کند.

دسترسی به GenAI میان امدادگران یکسان نبود و برخی از کاربران برای بررسی خروجی‌ها به همکارانی با تخصص مرتبط یا شناخت محلی تکیه می‌کردند. نتیجهٔ پژوهش این است که استفادهٔ مسئولانه فقط به عملکرد مدل یا تصمیم فردی برای به‌کارگیری آن بستگی ندارد؛ دسترسی امن، امکان سنجش پاسخ‌ها در برابر شرایط محلی و تشخیص زمان محدودکردن یا کنارگذاشتن ابزار نیز اهمیت دارد.