گوگل در وبلاگش اعلام کرده که تمام آثار تولید شده با ابزارهای هوش مصنوعی‌اش یک واترمارک دیجیتالی مخفی دارند! این واترمارک مخفی روی همه تصاویر و موزیک‌های ساخته شده با هوش مصنوعی وجود دارد و باعث تشخیص چنین آثاری از واقعیت می شود. اما نکته جالب اینکه این واترمارک برای چشم و گوش انسان نامحسوس است ولی با ابزارهای خود گوگل مشخص می شود!
واترمارک دیجیتالی گوگل دقیقا چیست؟
SynthID یکی از ابزارهای پیشرفته گوگل برای تشخیص آثار تولید شده با هوش مصنوعی است که در 29 آگوست 2023 معرفی شد. این ابزار، واترمارک های نامحسوسی را در تصویر ایجاد شده توسط هوش مصنوعی اضافه می‌کند تا آنها را به عنوان “Synthetic” برچسب گذاری کند. ایده و دلیل اصلی معرفی این ابزار، استفاده مسئولانه و اخلاقی از ابزارهای هوش مصنوعی است.
این فناوری توسط Google DeepMind توسعه یافته و با مشارکت Google Research اصلاح شده است.
این واترمارک دیجیتالی برای کدام ابزارها استفاده می شود؟
از آنجاکه این واترمارک مختص گوگل است، همه تصاویر تولید شده با هوش مصنوعی تصویرساز گوگل یعنی ImageFX و تمام آهنگ های تولید شده با استفاده از هوش مصنوعی موسیقی سازش یعنی MusicFX با یک واترمارک دیجیتالی مخصوص گوگل علامت گذاری می شوند.
تیم Google DeepMind در پست وبلاگی‌اشان اینطور توضیح داده‌اند که:
«SynthID را می‌توان برای استفاده در سایر مدل‌های هوش مصنوعی گسترش داد و ما قصد داریم در آینده نزدیک آن را در ابزارهای بیشتری ادغام کنیم و به افراد و سازمان‌ها قدرت دهیم تا به طور مسئولانه با محتوای تولید شده توسط هوش مصنوعی کار کنند.»
نکته بسیار جالب اینکه واترمارک های SynthID برای چشم و گوش انسان نامحسوس هستند، اما با ابزارهای هوش مصنوعی، قابل تشخیص هستند؛ و البته هرکاری هم کنید قابل حذف شدن هم نیستند!
SynthID چگونه کار می کند؟
SynthID از دو مدل یادگیری عمیق (deep learning) استفاده می‌کند – یکی برای واترمارک زدن و دیگری برای شناسایی واترمارک:
SynthID برای واترمارک کردن: از یک تکنولوژی واترمارک زدن استفاده می کند که یک واترمارک دیجیتال را مستقیماً به محتوای تولید شده توسط هوش مصنوعی اضافه می کند.
شناسایی SynthID : این تکنولوژی می‌تواند تصاویر یا صدا را اسکن کند و به کاربران کمک کند ارزیابی کنند که آیا محتوا یا بخشی از آن با استفاده از مدل‌های هوش مصنوعی ما تولید شده است یا خیر.
واترمارک دیجیتالی SynthID برای تصاویر تولید شده با هوش مصنوعی
برای شناسایی تصاویر تولید شده توسط هوش مصنوعی تصویرساز گوگل، SynthID یک واترمارک مخفی روی تصویر قرار می دهد که ما نمی‌بینیم. گوگل SynthID را طوری طراحی کرده که کیفیت تصویر را به خطر نیندازد ولی اجازه می‌دهد واترمارک قابل تشخیص باقی بماند، حتی باکارهایی مثل افزودن فیلترها، تغییر رنگ‌ها، تغییر روشنایی تصویر و یا فشرده سازی فایل بازهم این واترمارک قابل تشخیص است.
این موضوع برای امنیت کاربران بسیار مهم است چراکه پیش از این دیده بودیم تولید محتوای جعلی با ابزارهای هوش مصنوعی چقدر می‌تواند حریم خصوصی افراد را نقض کند، مثل اتفاقی که برای تیلور سوییفت افتاد یا حتی ویدیویی که صدای ترامپ را هم درآورده بود!
مثلا این عکس را ببینید، این پروانه با هوش مصنوعی تصویرساز گوگل ساخته شده و رویش یک واترمارک دیجیتالی هم خورده اما ما نمی‌توانیم ببینیم و برایمان قابل تشخیص نیست!
واترمارک دیجیتالی SynthID برای موسیقی‌های تولید شده با هوش مصنوعی
در نوامبر سال 2023، SynthID برای علامت گذاری و شناسایی موسیقی و صدای تولید شده توسط هوش مصنوعی گسترش یافت.
واترمارک SynthID مستقیماً در طول موج صوتی صدای تولید شده با هوش مصنوعی تعبیه شده است. این ابزار یک واترمارک دیجیتالی به صدای تولید شده توسط هوش مصنوعی اضافه می کند که برای گوش انسان غیرقابل تشخیص است.
این واترمارک را نمی توان حذف کرد، حتی با اضافه کردن نویز، فشرده‌سازی فایل، یا افزایش سرعت و کاهش سرعت فایل صوتی بازهم قابل تشخیص است!
نظر شما درباره این ابزار چیست و آیا موافق هستید؟
