متا پیش از اینکه ابزاری برای واترمارک گزاری روی ویس های تولید شده با هوش مصنوعی بسازد، ابزاری برای برچسب زدن به تصاویر ساخته بود. اما به نظر می‌رسد متا در تشخیص تصاویر هوش مصنوعی و واقعی دچار خطا شده و به اشتباه روی برخی تصاویر واقعی برچسب هوش مصنوعی می‌زند!
ماجرای برچسب‌های اشتباه
متا در اوایل سال جاری اعلام کرد روی پست‌هایی که با هوش مصنوعی تولید شده، برچسب made with AI می‌زند تا کاربران بتوانند تصاویر فیک را از واقعی تشخیص دهند. اما گزارش‌های TechCrunch و PetaPixel نشان می‌دهند که متا بسیار سختگیرانه عمل کرده و حتی روی تصاویری که واقعی است، هم این برچسب را زده است!
به نظر می رسد مشکل در ویرایش ابزارهایی مانند Adobe’s Generative AI Fill است که می‌تواند برای حذف اشیاء ناخواسته از تصاویر استفاده شود.
پیت سوزا، عکاس سابق کاخ سفید هم می‌گوید حتی ابزارهای کراپ کردن نیز اطلاعاتی را به تصاویر اضافه می کنند و سپس این اطلاعات به فیلترهای تشخیص هوش مصنوعی متا هشدار می دهد.
از طرفی متا روی برخی تصاویری که هوش مصنوعی تولید کرده، برچسب نمی‌زند و کاربران را دچار مشکل کرده. چراکه شناسایی دقیق پست‌هایی که توسط هوش مصنوعی ساخته یا دستکاری شده‌اند، بسیار دشوار است. اما نیاز است کمی صبر کنیم تا این ابزارها بتوانند با دقت به کارشان مسلط شوند.
