گوگل فناوری SynthID خود برای متن‌های ساخته‌شده با هوش‌مصنوعی را متن‌باز کرد_روشنفکر

ابزار SynthID یکی از قابلیت‌های قسمت هوش مصنوعی گوگل است که به گسترش‌دهندگان اجازه می‌دهد به خروجی‌های تولیدشده توسط مدل‌های مولد، واترمارک دیجیتال اضافه کنند. واترمارک می‌تواند برای تشخیص این چنین متن‌هایی هم مورد منفعت گیری قرار بگیرد و حتی نوع مدل مورد منفعت گیری را هم اشکار کند.

فناوری SynthID گوگل چه کاربردی دارد؟

گسترش منفعت گیری از مدل‌های زبانی مولد برای تشکیل متن، نیاز به ابزارهایی برای تشخیص اینگونه از محتوا را محسوس‌تر کرده است. گوگل به همین منظور از فناوری SynthID خود برای واترمارک گذاشتن روی متن‌های ساخته شده با هوش مصنوعی منفعت گیری می‌کند تا بتوان آنها را به‌آسانی شناسایی کرد. اکنون گوگل اظهار کرده است که ابزار مذکور به‌صورت متن‌باز در اختیار دیگر گسترش‌دهندگان هم قرار خواهد داشت تا از آن برای ثبت واترمارک روی خروجی مدل‌های خود منفعت بگیرند.ضضضضضضضضضضضضضضضض

ابزار SynthID گوگل از طریق کیت گسترش Responsible Generative AI این شرکت در اختیار علاقه‌مندان قرار گرفته است که امکانات و قابلیت‌های فرد دیگر را هم در اختیار گسترش‌دهندگان قرار می‌دهد. سرپرست قسمت دیپ‌مایند گوگل اشاره کرده که مقصد از این چنین کاری، آسان‌تر ساختن گسترش هوش مصنوعی اخلاقی و مسئولیت‌پذیرانه بوده است.

اهمیت واترمارک در خروجی مدل‌های زبانی به‌شدت افزایش یافته است و حتی ایالت کالیفرنیا به‌جستوجو این است که منفعت گیری از واترمارک را برای همه شرکت‌ها اجباری کند. به‌پشتیبانی این قابلیت، می‌تواند از پخش شدن اخبار غلط به‌خصوص در حوزه سیاست یا محتوای غیراخلاقی جلوگیری کرد. دولت چین هم از سال قبل میلادی، گسترش‌دهندگان را ناچار به منفعت گیری از واترمارک روی ابزارهای هوش مصنوعی مولد متن کرده است. اکنون چت‌بات جمینای به قابلیت SynthID تجهیزشده است و متون آن قابل ردیابی و تشخیص است.

گوگل برای اولین‌بار در تابستان امسال از ابزار SynthID رونمایی کرد که با قرار دادن واترمارک‌های نهان در متن‌ها، عکس‌ها، ویدئوها و فایل‌های صوتی، می‌تواند آنها را قابل شناسایی کند. گوگل ادعا دارد که نسخه مخصوص متن این ابزار،‌ متن را به‌نحوی تحول می‌دهد که تشخیص آنها برای کامپیوتر ممکن خواهد می بود؛ اما خوانندگان فهمید وجود این چنین تغییراتی در متن نمی‌شوند. این چنین اشاره شده است که منفعت گیری از واترمارک، اثری روی کیفیت، دقت، شدت و خلاقیت خروجی‌ها نخواهد داشت که در قبل یکی از مشکلات مهم اینگونه از ابزارها به‌شمار می‌رفت.