چارچوبی برای امن‌کردن محیط رشد هوش مصنوعی با ویژگی‌های قابل‌اجرا

پژوهشگران در پیش‌چاپی با عنوان «Secure Formal Raising» چارچوبی برای افزودن سازوکارهای امنیتی به رویکرد «پرورش مدل» ارائه کرده‌اند؛ رویکردی که دیدگاه رشد تدریجی ماشین هوشمند را به ایدهٔ آلن تورینگ پیوند می‌دهد. این کار، پیشنهاد پیشینِ Formal Raising را گسترش می‌دهد؛ روشی که می‌کوشد رفتار مدل را با ویژگی‌های صریح توصیف کند.

چارچوب پیشنهادی، موسوم به SFR، یکپارچگی سیاست‌ها، مجوزدهی و محرمانگی جریان داده را با استفاده از شواهد چهارارزشی مدل می‌کند. این شیوه، علاوه بر ارزیابی‌های تأییدشده یا ردشده، وضعیت‌های نامعلوم و ناسازگار را نیز حفظ می‌کند. نویسندگان شش ناوردای امنیتی را اثبات کرده‌اند و می‌گویند این شروط باعث می‌شوند پذیرش فقط بر پایهٔ شواهد تأییدشده انجام شود.

یک پیاده‌سازی مرجع با زبان C نیز در اکتشاف جامعِ محدودشده، این ناورداها را برآورده کرده است. همین بررسی، شکافی از نوع «نمایندهٔ سردرگم» را در فراخوانی ابزارها آشکار کرده؛ به‌گفتهٔ پژوهشگران، الزام به ثبت منشأ فراخوانی این شکاف را می‌بندد. این نتیجه به بررسی محدودشدهٔ پیاده‌سازی مربوط است و به‌تنهایی تضمین امنیت همهٔ سامانه‌های مبتنی بر این چارچوب نیست.