پدرخوانده هوش مصنوعی به پروژه جلوگیری از فجایع این فناوری پیوست_روشنفکر

«یوشوا بنجیو» (Yoshua Bengio)، دانشمند کامپیوتر کانادایی که سال ۲۰۱۸ «جایزه تورینگ» را دریافت کرد و یکی از پدرخوانده‌های هوش مصنوعی مدرن محسوب می‌شود، به پروژه‌ای مدام است که مقصد آن بازدید امنیت مدل‌های هوش مصنوعی و جلوگیری از وقوع فاجعه در تاثییر این فناوری است.

مقصد پروژه مذکور که Safeguarded AI نام دارد، ساخت یک سیستم هوش مصنوعی است که می‌تواند امنیت دیگر سیستم‌ها را بازدید کند. «بنجیو» به‌گفتن مدیر علمی به این برنامه اضافه شده است و پیشنهاد‌های علمی برای آن اراعه خواهد کرد. این پروژه که طی چهار سال آینده ۵۹ میلیون پوند بودجه دریافت خواهد کرد، توسط آژانس تحقیقات و اختراعات پیشرفته بریتانیا (ARIA) فراهم مالی می‌شود که سال قبل میلادی برای اندوخته‌گذاری روی تحقیقات علمی بالقوه تحول‌آفرین اغاز به کار کرد.

مدیر این پروژه می‌گوید که مقصد Safeguarded AI ساخت سیستم‌های هوش مصنوعی است که می‌توانند در رابطه تأثیر دیگر مدل‌های هوش مصنوعی بر دنیای واقعی، ضمانت‌های کمّی، همانند امتیاز ریسک اراعه کنند. این چنین در این فرایند از مدل‌های علمی و اثبات‌های ریاضی نیز پشتیبانی گرفته می‌شود.

او در ادامه می‌گوید که شرکت‌های علم و فناوری راهی برای اراعه ضمانت‌های ریاضی مبنی بر این که سیستم‌های هوش مصنوعی آن‌ها مطابق برنامه حرکت خواهند کرد، ندارند. او می‌گوید که غیرقابل‌مطمعن‌بودن مدل‌های هوش مصنوعی از این نظر می‌تواند نتایج فاجعه‌باری به‌همراه داشته باشد.

اراعه راهکارهای تازه برای ایمن‌سازی سیستم‌های هوش مصنوعی

بنجیو و مدیر پروژه استدلال می‌کنند که تکنیک‌های جاری که برای افت خطر سیستم‌های هوش مصنوعی پیشرفته در نظر گرفته می‌شود، همانند «تیم قرمز» که در آن افراد نقایص سیستم‌های هوش مصنوعی را بازدید می‌کنند، محدودیت‌های جدی به‌همراه دارند و نمی‌توان برای مطمعن از سیستم‌های حیاتی به آن‌ها مطمعن کرد.

در عوض، آن‌ها امیدوار می باشند تا این پروژه بتواند راه‌های جدیدی برای ایمن‌کردن سیستم‌های هوش مصنوعی فراهم کند که کمتر به کوششهای انسانی و زیاد تر به ارامش ریاضی متکی می باشند.

ARIA این چنین به سازمان‌ها و افراد قسمت‌های پرخطر همانند حمل‌و‌نقل، مخابرات، زنجیره فراهم و تحقیقات پزشکی پشتیبانی مالی می‌کند تا برنامه‌هایی را گسترش دهند که می‌توانند از مکانیسم‌های ایمنی هوش مصنوعی منفعت‌مند شوند. ARIA در کل ۵.۴ میلیون پوند در سال اول و ۸.۲ میلیون پوند دیگر در سال دوم به متقاضیان پشتیبانی مالی می‌کند.