یوشوا بنجیو به پروژه ایمنی هوش مصنوعی بریتانیا پیوست تا از فجایع جلوگیری کند

یوشوا بنجیو، دانشمند کامپیو‌تر کانادایی و برنده جایزه تورینگ سال ۲۰۱۸ که از پدرخوانده‌های هوش مصنوعی مدرن محسوب می‌شود، به عنوان مدیر علمی به پروژه صیانت‌شده هوش مصنوعی ( AI) در بریتانیا پیوست تا راهنمایی‌های علمی برای این برنامه ارائه دهد.

این پروژه که بودجه ۵۹ می‌لیون پوندی در طول چهار سال آینده از سوی آژانس تحقیقات و اختراعات پیشرفته بریتانیا (ARIA) تأمین می‌شود، هدف اصلی ساخت یک سیستم هوش مصنوعی دارد که بتواند امنیت سایر سیستم‌های هوش مصنوعی را بازبینی و ارزیابی کند. آژانس ARIA سال گذشته برای سرمایه‌گذاری در تحقیقات علمی با پتانسیل تحول‌آفرین تأسیس شده است.

مدیر پروژه بیان کرده که مقصد اصلی برنامه، توسعه سیستم‌های هوش مصنوعی است که بتوانند در مورد تأثیر مدل‌های دیگر بر دنیای واقعی، ضمانت‌های کمی مانند امتیاز ریسک ارائه دهند و در این فرآیند از مدل‌های علمی و اثبات‌های ریاضی نیز بهره ببرند. او تأکید کرد که شرکت‌های فناوری در حال حاضر راهی برای ارائه ضمانت‌های ریاضی مبنی بر عملکرد صحیح سیستم‌های خود ندارند و این عدم اطمینان می‌تواند نتایج فاجعه‌باری به همراه داشته باشد.

بنژیو و مدیر پروژه استدلال می‌کنند که تکنیک‌های جاری کاهش ریسک مانند تیم قرمز که در آن افراد نقایص سیستم‌ها را بررسی می‌کنند، محدودیت‌های جدی دارند و برای اطمینان از ایمنی سیستم‌های حیاتی کافی نیستند. آن‌ها امیدوارند این پروژه بتواند راهکار‌های جدیدی برای ایمن‌سازی هوش مصنوعی فراهم کند که کمتر به تلاش‌های انسانی و بیش‌تر به اطمینان‌های ریاضی متکی باشد.

آژانس ARIA در سال اول ۵.۴ می‌لیون پوند و در سال دوم ۸.۲ می‌لیون پوند دیگر به سازمان‌ها و افراد فعال در بخش‌های پرریسک مانند حمل‌ونقل، مخابرات، زنجیره تأمین و تحقیقات پزشکی تخصیص خواهد داد تا برنامه‌هایی را گسترش دهند که می‌توانند از مکانیسم‌های ایمنی هوش مصنوعی بهره‌مند شوند.