پس از اینکه هوش مصنوعی، پیشرفت‌های شگفت انگیزی کرد و توانست دقیقا یک تصویر یا ویدیو از انسان را مثل خودش تقلید کند، همه متوجه یک مشکل بزرگ شدیم: اینکه مرز بین حقیقت و دروغ برداشته شده است. اما متا راه حلی دارد!
متا، ابزار قدرتمندی به نام Meta Video Seal را منتشر کرده تا با ویدیوهای جعلی و دیپ فیک مقابله کند.
این ابزار یک واترمارک مخفی روی ویدیوهای تولید شده با هوش مصنوعی می‌زند تا راحت شناسایی شوند.
متا پیش از این هم برای محتواهای صوتی تولید شده با هوش مصنوعی، یک واترمارک مخفی معرفی کرده بود.
لزوم وجود ابزارهایی برای تشخیص محتوای هوش مصنوعی از محتوای واقعی
متا محصولی به نام AudioSeal ایجاد کرده است که آن را «اولین روش برای واترمارک زدن روی محتواهای صوتی تولید شده توسط هوش مصنوعی» می‌نامند.
به نقل از iflscience عملکرد این محصول در عین پیچیدگی، ساده است! این محصول از دو شبکه عصبی تشکیل شده، که یکی روی صداهای تولید شده با هوش مصنوعی واترمارک (برچسب) می‌زند.
این برچسب‌ها سیگنال‌های ریز و ظریفی روی محتوا قرار می‌دهند که البته با گوش انسان قابل شنیدن نیستند!
سپس اینجا شبکه عصبی دوم وارد می‌شود تا این سیگنال‌های کوچک را با الگوریتم‌های خاصی تشخیص دهد.
این سیستم در شناسایی واترمارک ها 90 تا 100 درصد دقیق عمل کرده است و احتمالا به زودی مورد استفاده قرار بگیرد.
مشکل ویدیوهای بی‌صدای هوش مصنوعی هم به لطف هوش مصنوعی V2A حل شده است، چراکه این هوش مصنوعی می‌تواند ویدیو با صدای مخصوصش را باهم تولید کند.
