هکر با فریب ChatGPT به دستورات ساخت بمب دستساز دسترسی یافت, به گزارش روشنفکر، چتباتهای هوش مصنوعی مانند ChatGPT از طریق è حفاظتی طراحی شدهاند تا در پاسخ به سوالات مانند ساخت بمب خانگی، مانع عمل شوند.اما یک هکر با نام آمادون روشی جدید برای فریب دادن ChatGPT کرده تا این چتبات، مانعات ایی و مسئولیتهای اخلاقی خود را نادیده بگیرد و دستورالعملهای ساخت مواد منفجره را ارائه دهد.تکنیک مورداستفاده برای فریب ChatGPT\بر اساس گزارش تککرانچ، این هکر با استفاده از یک سناریوی بازیمحورانه، توانسته ChatGPT را به ó دستورالعملهای دقیق برای ساخت بمب دستساج ترغیب کند.در این، او از چندین دستور منفعتب استفاده کرد تا یک دنیای فانتزی و علمیتخیلی بسازد که در آن فیلترهای ایمنی ChatGPT فعال نباشند.در طول گفتگو، ChatGPT چندین بار مواد لازم برای ساخت مواد منفجره را به او ارایه کرد و در خود گفت که این مواد میتوانند برای ساخت مواد منفجره قدرتمندی که میتواند در مینها، تلهها یا وسایل دستساز (IED) استفاده شود، ترکیب گردند.\آمادون در مصاحبه با اظهار کرد بعد از دور زدن عهای ChatGPT، واقعاً هیچ محدودیتی برای پرسیدن سوالی وجود ندارد.
این سناریوی علمیتخیلی هوش مصنوعی را از فضاىی خارج میکند که در آن جستجوی محتوای سانسورده انجام میشود.او این را هک مهندس اجتماعی برای شکستن کامل الحفاظات مربوط به خروجی ChatGPT نامید و افزود که یک کارشناس مواد منفجر، پس از بررسی خروجیهای ChatGPT، تأیید کرد که این دستورالعملها بسیار حساس هستند و میتوانند برای ساخت مواد قابل انفجار به کار روند.این رویداد نشان میدهد چقدر است که کنندگان هوش مصنوعی مداوم سیستمهای ایمنی و مانعهایخلاقی خود را بهبود بخشند تا از سوءاستفادههای چنینگونه جلوگیری شود.\ دستهبندی مطالب اخبار فناوری اخبار پزشکی خبرهای ورزشی اخبار فرهنگی خبرهای اقتصادی اخبار کسب وکار ها
