همکاری متا، اسنپچت و تیکتاک در برنامه برای مقابله با محتوای خودکشی و خودآزاری
همکاری متا، اسنپچت و تیکتاک در برنامه برای مقابله با محتوای خودکشی و خودآزاری, متا، اسنپچت و تیکتاک در چارچوب طرحی مشترک به نام با یکدیگر متحد شدهاند تا محتوای زیانآور مرتبط با خودکشی و خودآزاری را در پلتفرمهای خود شناسایی و مقابله کنند.
بر اساس این مکانیزم، وقتی یکی از شرکتها محتوای مضر را در اپلیکیشنهایش کشف میکند، یک سیگنال هش (کد ناشناس محتوا) را به سایر شرکا ارسال میکند تا آنها نیز بتوانند پایگاه دادههای خود را بررسی کرده و از انتشار مجدد آن محتوا در سرویسهایشان جلوگیری نمایند.\مکانیزم عملکرد برنامه بر اساس بیانیه رسمی متا، ائتلاف سلامت روان بستر را برای راهاندازی فراهم آورده است تا شرکتهای فناوری بتوانند سیگنالهای نقض قوانین محتوای خودکشی و خودآزاری را به اشتراک بگذارند.
متا تأکید کرده که این نوع محتوا به هیچ پلتفرم منفردی محدود نمیشود و رویکرد مشترک میتواند مانع از گسترش آن در اکوسیستم دیجیتال شود.
از آوریل تا ژوئن امسال (فروردین و خرداد)، متا بیش از ۱۲ میلیون محتوای مربوط به خودکشی و خودآزاری را در فیسبوک و اینستاگرام شناسایی کرده است.\شرکتها اگرچه به کاربران اجازه میدهند تجربیات شخصی خود را در این زمینه بیان کنند، اما هرگونه محتوایی که جنبه ترغیب دیگران به خودآزاری یا خودکشی داشته باشد، بلافاصله به عنوان محتوای زیانآور طبقهبندی و حذف میشود.
یکی از چالشهای اصلی پایش مداوم این محتواها، ظرافتهای زبانی و بافتی است که هوش مصنوعی به تنهایی نمیتواند همیشه تشخیص دهد؛ بنابراین نظارت انسانی همچنان نقش حیاتی دارد.
با راهاندازی، گام مؤثری در جهت سادهسازی و تسریع فرآیند یافتن و پاکسازی این محتواها برداشته شده است.\\اهمیت همکاریهای بینپلتفرمی در ایمنی دیجیتالاین ائتلاف نشاندهنده تغییر استراتژیک در رویکرد شرکتهای بزرگ تکنولوژی است به جای مقابله انفرادی، مدل اشتراکگذاری سیگنالهای تهدید برای افزایش سرعت و دقت پاسخدهی به کار گرفته شده است.
انتظار میرود در آینده نزدیک پلتفرمهای دیگر نیز به این مبادره بپیوندند تا پوشش حفاظتی گستردهتری بر روی فضای مجازی برقرار گردد.
