گوگل فناوری را متنباز کرد؛ واترمارکگذاری متنهای هوش مصنوعی برای توسعهدهندگان آزاد شد

گوگل فناوری را متنباز کرد؛ واترمارکگذاری متنهای هوش مصنوعی برای توسعهدهندگان آزاد شد, گوگل فناوری واترمارکگذاری خود به نام را به صورت متنباز در اختیار عموم قرار داد تا توسعهدهندگان بتوانند خروجیهای مدلهای زبانی مولد خود را به راحتی قابل شناسایی سازند. این ابزار با نهانسازی یک امضای دیجیتال در متن، امکان تشخیص محتوای تولیدشده توسط هوش مصنوعی را فراهم میکند بدون اینکه بر کیفیت یا خوانایی متن تأثیر منفی بگذارد.

چگونه کار میکند و چه کاربردی دارد؟ با گسترش روزافزون کاربرد مدلهای زبانی بزرگ، ضرورت تفکیک متنهای انسانی از متنهای ماشینی بیش از پیش احساس میشود. گوگل با انتشار در قالب کیت توسعه هوش مصنوعی مولد مسئولیتپذیر ( AI )، راهکاری ارائه کرده که واترمارک را در لایههای احتمایی متن نهان میکند.

این روش باعث میشود الگوریتمهای تشخیصی بتوانند منبع متن را با دقت بالا شناسایی کنند، در حالی که تجربه خواندن برای انسان کاملاً طبیعی باقی میماند. سرپرست بخش گوگل تأکید کرد که هدف اصلی این گام، تسهیل توسعه هوش مصنوعی اخلاقی و پاسخگو است. با در دسترس قرار دادن کد منبع، شرکتهای دیگر و محققان میتوانند بدون هزینه و موانع فنی، مکانیزمهای شفافیت را در محصولات خود پیادهسازی کنند.

ضرورت قانونی و بینالمللی واترمارکگذاری اهمیت این فناوری تنها در سطح فنی خلاصه نمیشود؛ قانونگذاران در نقاط مختلف جهان در حال الزام کردن آن هستند. ایالت کالیفرنیا در حال تدوین قانونی است که استفاده از واترمارک را برای تمام شرکتهای فعال در حوزه هوش مصنوعی اجباری میسازد. از سوی دیگر، چین از سال گذشته مقرراتی را اجرا کرده که بر اساس آن توسعهدهندگان موظفاند خروجی ابزارهای مولد متن را با واترمارک مجهز کنند.

این روند نشان میدهد که استانداردهای شفافیت در حال تبدیل شدن به یک هنجار جهانی میشوند. هماکنون چتبات جمینای گوگل از فناوری بهره میبرد و متون تولیدشده توسط آن به راحتی قابل ردیابی و احراز هویت هستند. گوگل اعلام کرده که این واترمارکگذاری تأثیری بر دقت، خلاقیت، سرعت یا کیفیت کلی پاسخهای مدل ندارد و یکی از چالشهای اصلی نسخههای اولیه این تکنولوژی را برطرف کرده است.