زنانی که قربانی پورنوگرافی جعلی شدند_طلوع شرق

سارا (نام مستعار)، زنی ۳۲ ساله، یک روز صبح با پیامی دلواپس‌کننده از یک دوست روبه رو شد: «این تو هستی؟» همراه مطلب، لینکی به یک وب‌سایت پورنوگرافی ارسال شده می بود که ویدئویی از سارا را نشان می‌داد که در حال انجام اعمال جنسی می بود. اما سارا هیچ زمان در این چنین ویدئویی وجود نداشت.

این یک دیپ‌فیک می بود، ویدئویی که با منفعت گیری از هوش مصنوعی (AI) ساخته شده و چهره او را به‌طور واقع‌گرایانه‌ای روی بدن بازیگر فرد دیگر قرار داده می بود. سارا در مصاحبه با اشپیگل او گفت: «حس کردم روحم شکسته است. نمی‌توانستم باور کنم که فردی این کار را با من کرده است.» او تنها یکی از هزاران زنی است که قربانی پورنوگرافی دیپ‌فیک شده‌اند، صنعتی که به شدت در حال رشد است و عمدتاً توسط مردانی هدایت می‌شود که از فناوری برای منفعت‌کشی و تحقیر زنان منفعت گیری می‌کنند.

فناوری پشت دیپ‌فیک

دیپ‌فیک‌ها با منفعت گیری از الگوریتم‌های یادگیری عمیق، نوعی از هوش مصنوعی، ساخته خواهد شد که می‌توانند تصاویر یا ویدئوهای جعلی تشکیل کنند که تشخیص آن‌ها از حقیقت دشوار است. این فناوری در ابتدا برای سرگرمی‌های بی‌زیان، همانند جایگزینی چهره بازیگران در فیلم‌ها، گسترش یافت. اما به شدت توسط افرادی مورد سوءاستفاده قرار گرفت که محتوای پورنوگرافیک تشکیل می‌کنند. این فناوری به کاربران اجازه می‌دهد تا با چند کلیک، چهره هر فردی را از روی عکس‌های حاضر در شبکه‌های اجتماعی یا منبع های دیگر روی بدن بازیگران پورنوگرافیک قرار دهند.

مردان پشت پرده

تحقیقات اشپیگل مشخص می کند که اکثریت قریب به اتفاق تولیدکنندگان پورنوگرافی دیپ‌فیک مردان می باشند، زیاد تر افرادی با دانش فنی که در انجمن‌های آنلاین همانند ردیت یا دیسکورد فعالیت می‌کنند. این گروه‌ها فضاهایی را تشکیل کرده‌اند که در آن‌ها کاربران، که زیاد تر خود را «علاقه‌مندان به فناوری» می‌نامند، تکنیک‌های ساخت دیپ‌فیک را به اشتراک می‌گذارند و محتوای غیرقانونی را توزیع می‌کنند. یکی از این افراد، که با نام مستعار «DeepMaster» فعالیت می‌کند، در مصاحبه‌ای ناشناس با اشپیگل ادعا کرد که این کار را «برای سرگرمی» انجام می‌دهد و معتقد است که «هیچ آسیبی به فردی نمی‌رسد.» او او گفت: «این فقط یک بازی با فناوری است. همانند نقاشی دیجیتال.» اما برای قربانیان، این «بازی» تبعات ویرانگری دارد.

تأثیرات بر قربانیان

قربانیان دیپ‌فیک‌های پورنوگرافیک زیاد تر با صدمه‌های روانی شدید، از جمله اضطراب، افسردگی و از دست دادن مطمعن به نفس روبه رو خواهد شد. سارا می‌گوید که بعد از انتشار کردن ویدئوی دیپ‌فیک، از هراس قضاوت دیگران از شغلش کناره‌گیری کرد و ماه‌ها از خانه خارج نشد. تعداد بسیاری از قربانیان، به‌اختصاصی زنان، گزارش داده‌اند که حس می‌کنند حریم خصوصی و کرامتشان نقض شده است. در برخی موارد، این ویدئوها برای اخاذی، تهدید یا انتقام‌جویی منفعت گیری شده‌اند. مطابق گزارش اشپیگل، بیشتر از ۸۰ درصد قربانیان پورنوگرافی دیپ‌فیک زنان می باشند و تعداد بسیاری از آن‌ها بدون خبر قبلی در این چنین محتوایی ظاهر خواهد شد.

چالش‌های قانونی

پیگرد قانونی تولیدکنندگان دیپ‌فیک دشوار است، چون تعداد بسیاری از آن‌ها به‌صورت ناشناس فعالیت می‌کنند و زیاد تر در کشورهای گوناگون مستقر می باشند. قوانین حاضر در تعداد بسیاری از کشورها تا این مدت با شدت پیشرفت فناوری هماهنگ نشده‌اند. در آلمان، تشکیل و توزیع پورنوگرافی دیپ‌فیک می‌تواند تحت قوانین مربوط به نقض حریم خصوصی یا افترا قرار گیرد، اما اثبات جرم زیاد تر پیچیده است. در ایالات متحده، برخی ایالت‌ها قوانین خاصی علیه پورنوگرافی غیرتوافقی وضع کرده‌اند، اما اجرای آن‌ها چالش‌برانگیز است. سازمان‌های بین‌المللی همانند اینترپل در حال همکاری برای تشکیل چارچوب‌های قانونی جهانی می باشند، اما پیشرفت کند است.

نقش پلتفرم‌ها و شبکه‌های اجتماعی

پلتفرم‌های آنلاین نقش مهمی در گسترش پورنوگرافی دیپ‌فیک دارند. وب‌سایت‌های پورنوگرافی که میزبان این محتوا می باشند، زیاد تر در حوزه‌های قضایی با قوانین ضعیف فعالیت می‌کنند. شبکه‌های اجتماعی همانند تلگرام و دیسکورد نیز به‌گفتن مراکز توزیع این محتوا شناخته شده‌اند. اگرچه برخی پلتفرم‌ها سیاست‌هایی برای حذف محتوای غیرقانونی دارند، اما نظارت بر حجم عظیم داده‌ها دشوار است. به حرف های کارشناسان، هوش مصنوعی می‌تواند برای شناسایی و حذف دیپ‌فیک‌ها منفعت گیری شود، اما این فناوری تا این مدت در مرحله های اولیه است.

مبارزه با دیپ‌فیک

فعالان و سازمان‌های حقوق زنان خواستار عمل های سخت‌گیرانه‌تری برای مبارزه با این مشکل می باشند. آنها کمپین‌هایی برای افزایش آگاهی و سختی بر قانون‌گذاران برای تشکیل قوانین سخت‌گیرانه‌تر راه‌اندازی کرده‌اند. برخی نظر می‌کنند که شرکت‌های فناوری باید مسئولیت بیشتری در روبه رو محتوای پلتفرم‌های خود بپذیرند. در همین حال، ابزارهایی همانند نرم‌افزارهای تشخیص دیپ‌فیک در حال گسترش می باشند، اما تا این مدت به‌طور گسترده در دسترس نیستند.