در گذشته ضرب المثلی وجود داشت که می‌گفت «تا با چشم‌های خودت ندیدی، باور نکن» اما اکنون در قرن 21 و با وجود تکنولوژی‌هایی مثل دیپ فیک، دیگر حتی نمی‌توان به «دیده‌ها» اعتماد کرد! چراکه هوش مصنوعی و دیپ فیک، دیگر مرزی بین حقیقت و دروغ نگذاشته‌اند! در این مقاله نامبرلند درباره اینکه «دیپ فیک چیست» و روش‌های شناسایی آن، صحبت کرده‌ایم.
جدول محتوا
دیپ فیک چیست؟
فناوری Deepfake در فارسی به «جعل عمیق» ترجمه می‌شود و همانطور که از اسمش پیداست، یک ویدیوی غیرواقعی و فیک (یا جعلی) است!
دیپ فیک نوعی تکنولوژی رسانه‌ای است که از هوش مصنوعی (AI) و یادگیری ماشین (machine learning) برای ایجاد ویدیوهای جعلی استفاده می کند. واقع گرایانه بودن این تکنوژی آنقدر بالاست که (تقریبا) تشخیص ویدیوی جعلی از واقعی غیرقابل تشخیص است! این موضوع هم نشان دهنده پیشرفت بسیار فوق العاده هوش مصنوعی است و هم یک زنگ خطر بزرگ. ویدیوی زیر را ببینید، یک نمونه دیپ فیک بسیار حرفه‌ای و قدرتمند از مردی است که بااستفاده از این تکنولوژی، خود را به جای یک زن، جا می‌زند:
تاریخچه دیپ فیک از گذشته تا کنون
شاید برایتان جالب باشد که بدانید، تکنولوژی دیپ فیک جدید نیست و به سال‌ها پیش باز می‌گردد!
انسان همیشه دوست داشته به توانایی ویرایش و دستکاری تصاویرش، دست یابدفناوری Deepfake توسط محققان و پژوهشگران آکادمیک در دانشگاه از دهه 1990 توسعه پیدا کرد؛ در نمونه‌های اولیه دیپ فیک، ابزارهایی برای جابجا کردن چهره فرد روی ویدیو استفاده می‌شد، که فریم به فریم چهره فرد را روی ویدیوی دروغین جابجا می‌کرد و البته این پروسه سخت، وقت گیر، با خطا و اشتباه همراه بود. اما اکنون این تکنولوژی در دسترس همه و عادی قرار دارد!
نکته جالب درباره تاریخچه دیپ فیک این است که این عبارت، اولین بار در سال 2017 توسط یک کاربر ردیت ساخته شد و از آن زمان هم به همین اسم مشهور شد!
دیپ فیک چگونه کار می‌کند؟
ماهیت اصلی دیپ فیک، فناوری تشخیص چهره است؛ اگر از فیلترهای اسنپ چت استفاده کرده باشید، حتما دیده‌اید که چقدر سریع و ساده، یک فیلتر یا افکت روی صورت شما جابجا می‌شود و چهره شما را تغییر می‌دهد. فناوری دیپ فیک هم مشابه همین فیلترهاست؛ اما بسیار واقع گرایانه‌تر و دقیق‌تر!
فناوری پشت دیپ فیک، ترکیبی از یادگیری عمیق (deep learning) و هوش مصنوعی (AI) است و از ترکیب الگوریتم‌های هوش مصنوعی استفاده می‌کند، تا شبکه‌ای به نام شبکه متخاصم مولد (GAN) را ایجاد کند.
شبکه متخاصم مولد (generative adversarial network) با بهره مندی از یادگیری عمیق، الگوها را در تصویر واقعی تشخیص می‌دهد و بااین الگوها، یک محتوای جعلی می‌سازد. این فرایند به کمک هوش مصنوعی و با حجم عظیمی از داده‌ها، دیپ فیک بسیار بسیار واقعی ایجاد می‌کند که شناسایی آن (تقریبا) غیرممکن است.
دیپ فیک چه خطراتی برای جامعه دارد؟
به علت اینکه تشخیص واقعی بودن یا فیک بودن یک ویدیو بسیار سخت است، این تکنولوژی به صورت بالقوه برای جامعه خطرناک است. فناوری دیپ فیک مرز بین حقیقت و دروغ را برداشته و باعث شده که مردم دیگر نتوانند به ویدیوهایی که می‌بینند اعتماد کنند.
این فناوری نه تنها باعث سردرگمی، شک و تردید و بی اعتمادی مردم نسبت به یکدیگر می‌شود، بلکه تهدیدی هم برای حریم خصوصی افراد به حساب می‌آید. به طور مثال در سال‌های گذشته شاهد تولید دیپ فیک پورنوگرافی از سلبریتی‌ها و افراد مشهور بوده‌ایم، که اتفاق بسیار ناگواری برای حریم خصوصی این افراد و افکار عمومی جامعه به حساب می‌آید.
همچنین خطر بزرگ دیگر دیپ فیک، استفاده از آن در کلاهبرداری و جرایم مالی است. تا به حال بارها و بارها ویدیوهای دیپ فیک باعث فریب سرمایه گذاران و مدیران شرکت‌های بزرگ برای دادن اطلاعات حساس یا پرداخت مبلغ‌های کلان شده است.
نشر اطلاعات نادرست و سواستفاده‌های سیاسی در مواقع حساسی مثل انتخابات هم از خطرات دیگر دیپ فیک برای جامعه است.
آیا دیپ فیک غیرقانونی است؟
درباره استفاده از دیپ فیک، در سراسر جهان قوانین مختلفی وجود دارد؛ به طور کلی، محتوای دیپ فیک و استفاده‌ای که از آن می‌شود مهم است و باعث می‌شود تا پیگرد قانونی پیدا کند.
استفاده از تکنولوژی دیپ فیک برای پورنوگرافی، تهمت و توهین، سواستفاده، نشر اکاذیب، کلاهبرداری یا فریب جرم تلقی می‌شود و غیر قانونی است.
چگونه ویدیوهای دیپ فیک را از واقعیت تشخیص بدهیم؟
بااینکه تکنولوژی دیپ فیک بسیار پیچیده است اما سرنخ‌های نسبتاً ساده‌ای وجود دارد که می‌توانید برای شناسایی دیپ فیک از آن استفاده کنید! غیر از اینکه همیشه باید به خبرگذاری‌ها و سایت‌های معتبر برای پیگیری اخبار اعتماد کنید، اما در ادامه چند مورد از سرنخ‌ها و نکات ساده را برای تشخیص دیپ فیک نام برده‌ایم.
حرکات غیر طبیعی چشم: اگر می‌بینید که حرکات چشم یک فرد در ویدیو طبیعی به نظر نمی‌رسند، مثلا اصلا چشم‌ها حرکت نمی‌کنند یا پلک نمی‌زنند، پس شک کنید که ویدیو واقعی نیست!
حالات غیرطبیعی چهره: غیر از چشم‌ها، حالات چهره هم مهم هستند. ممکن است متوجه شوید که چهره فرد داخل ویدیو مدام حرکات تکراری یا غیرطبیعی دارد که بسیار شک برانگیز است.
چهره کاملا بدون احساس: همچنین اگر دیدید که فرد داخل ویدیو هیچ احساسی از خود نشان نمی‌دهد، مثلا کاملا بدون احساس یا بدون حرکت لب‌ها و ابروها صحبت می‌کند، احتمالا ویدیو دیپ فیک است!
ناهماهنگی سر با بدن: نشانه دیگر برای تشخیص دیپ فیک این است که شکل بدن فرد طبیعی به نظر نمی رسد یا حرکات سر و بدنش باهم هماهنگ نیستند. مثلا چهره فرد به یک سمت اشاره دارد درحالی که بدن او متمایل به سمت دیگری است. این موضوع شاید مهم‌ترین سرنخ تشخیص دیپ فیک باشد چرکه فناوری دیپ فیک معمولاً به جای کل بدن، روی صورت تمرکز می‌کند.
رنگ غیر طبیعی: رنگ غیر طبیعی پوست، تغییر رنگ، نورهای عجیب و غریب و سایه های نامتناسب، همه نشانه هایی هستند که نشان می دهد ویدیو احتمالا جعلی است.
دندان‌های غیرواقعی: الگوریتم‌ها احتمالا در ایجاد تک تک دندان‌ها ناتوان هستند بنابراین حتما به دندان‌های فرد داخل ویدیو دقت کنید که اگر مشکوک به نظر رسید، پس احتمالا ویدیو جعلی است.
واتر مارک دیجیتالی: بسیاری از مدل های هوش مصنوعی که برای ساخت ویدیو استفاده می‌شوند، روی ویدیوهای خود واترمارک دیجیتالی قرار می‌دهند که غیرواقعی بودن قابل تشخیص باشد. البته واترمارک دیجیتالی برای چشم انسان‌ها محسوس نیست اما با یک سری مدل‌های تشخیص دهنده دیگر، قابل شناسایی است.
چند نمونه برنامه‌های ساخت دیپ فیک
اگر دوست دارید برای سرگرمی چند دیپ فیک از خودتان بسازید، اینجا به شما چند برنامه ساخت دیپ فیک را معرفی می‌کنیم.
وبسایت Deepfakes Web
اولین گزینه برای ساخت ویدیوهای دیپ فیک، وبسایت Deepfakes Web است که بااستفاده ازGPU های قدرتمند در سرور ابری می‌تواند برایتان دیپ فیک بسازد. اما کار با این وبسایت به ساعت‌ها زمان نیاز دارد. البته اگر از نسخه پولی این وبسایت استفاده کنید، ویدیوی شما در مدت زمان کمتری ساخته می شود.
اپلیکیشن Wombo
این اپلیکیشن در واقع نوعی برنامه لب خوانی lip-syncing است، که شما را به یک خواننده تبدیل می‌کند! شما یک عکس از خودتان به این اپلیکیشن می‌دهید و پس از انتخاب آهنگ Wombo لب‌های شما با آهنگ موردنظر هماهنگ می‌کند. خروجی دیپ فیک این برنامه خیلی دقیق نیست و بیشتر برای سرگرمی و شوخی استفاده می شود.
اپلیکیشن Reface
اپلیکیشن بعدی، Reface است که خوشبختانه هم نسخه اندروید و هم نسخه iOS دارد. کار با این برنامه ساده است، کافی است یک عکس از خود بگیرید و یک گیف انتخاب کنید، تا چهره شما را با هوش مصنوعی روی این گیف قرار دهد و به اصطلاح دیپ فیک شما را بسازد. البته ممکن است همیشه خروجی کار دقیق و باکیفیت نباشد.
اپلیکیشن My heritage
این برنامه بسیار قدرتمند و ساده است و در عرض چند ثانیه از شما یک دیپ فیک می‌سازد! کافی است یک عکس در این برنامه آپلود کنید و روی دکمه animate بزنید تا یک تصویر متحرک از خودتان به شما تحویل دهد که چشم‌ها و لب‌هایتان در حال حرکت است.
همچنین شما می‌توانید با استفاده‌های از ابزارهای هوش مصنوعی برای خود دیپ فیک بسازید!
آنچه در مقاله «دیپ فیک چیست» خواندیم
در این مقاله نامبرلند درباره اینکه دیپ فیک چیست و از کجا آمده، چگونه می‌تواند تبدیل به یک تهدید و خطر برای جامعه شود و البته روش‌های تشخیص آن از واقعیت صحبت کردیم. در نهایت 4 اپلیکیشن و وبسایت مشهور برای ساخت دیپ فیک را به شما معرفی کرده‌ایم که اگر دوست داشتید برای سرگرمی، از خودتان دیپ فیک بسازید می‌توانید از این ابزارها استفاده کنید.
