خبرگزاری علم و فناوری آنا؛ در اوایل سال ۲۰۲۲، دو تن از کارکنان بخش سیاستگذاری گوگل با سه نفر از زنان قربانی کلاهبرداری اینترنتی ملاقات کردند. ویدیو‌های این سه زن در فضای مجازی و از جمله در نتایج جستجوی گوگل قرار گرفته بود. این زنان از جمله صد‌ها جوانی بودند که در تبلیغات لباس شنا به عنوان مدل جلوی دوربین قرار گرفته بودند و سپس ویدیو‌های آنها در یک سایت مستهجن منتشر شده بود. این سایت در سال ۲۰۲۰ تعطیل شد و همه کارکنان آن از جمله تهیه‌کننده، حسابدار و فیلمبردار آن به قاچاق جنسی اعتراف کردند، اما ویدیو‌های آن سه زن به سرعت در گوگل پخش شده بود.

در جلسه‌ای که با حضور سه زن قربانی، وکیل آنها و یک کارشناس امنیتی برگزار شده بود، ایده‌هایی مطرح شد مبنی بر اینکه چطور گوگل می‌تواند از وقوع مجدد چنین اتفاقاتی جلوگیری کند. آنها از گوگل خواستند همه وب‌سایت‌های زیرمجموعه آن سایت مستهجن و ویدیو‌های دارای واترمارک آنها را مسدود کند. 
آنها پیشنهاد کردند که گوگل می‌تواند هارد ۲۵ ترابایتی را که اطلاعات آن سایت مستهجن روی آن ذخیره شده است قرض بگیرد، از هر کلیپ یک اثر انگشت ریاضیاتی یا «هش» بگیرد و مانع از ظاهر شدن مجدد آنها در نتایج جستجو شود.

مجله وایرد (WIRED) که گزارش حاضر را تنظیم کرده است با ۵ کارمند سابق گوگل و ۱۰ مدافع قربانیان افشای فیلم و تصاویر خصوصی بوده و با گوگل در تماس بوده‌اند مصاحبه کرد. آنها تأیید کردند که گوگل امکان حذف تصاویر قربانیان از نتایج جستجو را به طور مؤثری بهبود بخشیده است. با این حال، آنها همچنان بر موضوع پاک کردن اطلاعات از هارد دیسک و حفاظت از حریم خصوصی بسیاری از قربانیان در سراسر جهان تأکید داشتند. درصد زیادی از این قربانیان زنان هستند.

انتقادات وارد به گوگل

یک انتقاد وارد به گوگل این بود که این کمپانی وب‌سایت‌های فعال در زمینه پورنوگرافی را از نظر واجد شرایط بودن برای دریافت ترافیک ارزیابی نمی‌کند. انتقاد دیگر آن بود که چرا گوگل به نرم‌افزار «توقف نشر تصاویر نامتعارف» (StopNCII) مجهز نیست. سیستم «توقف نشر تصاویر نامتعارف» در اواخر سال ۲۰۲۱ راه‌اندازی شد و پایگاه داده‌ای از بیش از ۵۷۲ هزار عکس و ویدیوی هَش شده را جمع‌آوری کرد و مانع از اشتراک‌گذاری آنها در ۱۰ شبکه اجتماعی از جمله اینستاگرام و تیک تاک شد.

اقدامات قانونی برای مبارزه با پورنوگرافی

تلاش‌ها برای حذف سوءاستفاده از تصاویر زنان با هدف پورنوگرافی باید بسیار بیشتر شود، چرا که فعالیت چنین شبکه‌هایی در حال افزایش است. در سال ۲۰۲۳ شمار تماس‌ها و گزارش‌های ارسالی به «خط تلفن پیگیری قربانیان پورنوگرافی» (Revenge Porn hotline) در انگلیس به حدود ۱۹ هزار مورد رسید. همزمان یک نظرسنجی دیگر در این کشور نشان داد که بیش از ۲ هزار شهروند بریتانیایی نگرانی آن هستند که قربانی دیپ فیک (جعل عمیق) شوند. در ماه مه گذشته، کاخ سفید خواستار اقدام سریع قانونگذاران برای مهار «نشر تصاویر نامتعارف» شد و در ماه ژوئن گوگل به همراه ۷ شرکت و ۹ سازمان دیگر یک کارگروه تشکیل دادند تا برای این موضوع اقدام کنند. 

بهترین راه حل عملی

در حال حاضر، قربانیان می‌توانند سوءاستفاده‌کنندگان از تصاویر یا ویدیو‌های خود را تحت پیگرد قانونی قرار دهند یا ادعا‌های حقوقی علیه وب‌سایت‌های میزبان محتوا مطرح کنند، اما تضمینی برای هیچ یک از این مسیر‌ها وجود ندارد و هر دو ممکن است به دلیل هزینه‌های قانونی گران تمام شوند. وادار کردن گوگل به حذف نتایج می‌تواند عملی‌ترین تاکتیک باشد و به هدف نهایی، یعنی دور نگه داشتن محتوای مجرمانه از چشم دیگران، نزدیک باشد.

گوگل سالانه تقریباً ۱ میلیون صفحه وب جدید حاوی محتوای مربوط به سوء استفاده جنسی از کودکان را پیدا کرده و مسدود می‌کند.

پاسخ و دفاعیات گوگل

سخنگوی گوگل که برای جلوگیری از آزار و اذیت مجرمان خواست نامش فاش نشود، می‌گوید: «مبارزه کمپانی ما با انتشار تصاویر نامتعارف بدون اجازه اشخاص در اولویت کار‌ها قرار دارد. در طول سال‌های گذشته، ما عمیقاً روی سیاست‌های محافظت‌کننده از حریم خصوصی افراد سرمایه‌گذاری کرده‌ایم و همواره به دنبال روش‌های جدید برای چالش‌های نوظهور در این زمینه هستیم.»

یک مدیر محصول جستجوی گوگل که در بخش ضد آسیب نظارت دارد، گفت: «مسدود کردن ویدیو‌ها با استفاده از هَش چالش برانگیز است، زیرا برخی از وب سایت‌ها ویدیو‌ها را به گونه‌ای منتشر نمی‌کنند که موتور‌های جستجو بتوانند آن را با هش مقایسه کنند. گوگل وب‌سایت‌ها را تشویق کرده است تا به این موضوع رسیدگی کنند.

حامیان گوگل به اقدام جسورانه این شرکت مبنی بر اعمال محدودیت‌های سخت‌تر برای جستجوی محتوای مربوط به سوء استفاده جنسی از کودکان (CSAM) اشاره می‌کنند. تایپ عبارت «دیپ فیک کودکان برهنه» در گوگل هشداری را در مورد غیرقانونی بودن چنین محتوایی به همراه دارد و در نهایت کاربران را به مقالات خبری و گروه‌های پشتیبان هدایت می‌کند. گوگل همچنین سالانه تقریباً ۱ میلیون صفحه وب جدید حاوی محتوای مربوط به سوء استفاده جنسی از کودکان را پیدا کرده و مسدود می‌کند.

مدیر محصول گوگل می‌گوید تقریباً هر تصویری از یک کودک برهنه غیرقانونی است و می‌تواند به‌طور خودکار حذف شود.

آدام داج (Adam Dodge)، بنیانگذار گروه حمایت و آموزش «پایان دادن به سوءاستفاده به کمک فناوری» (Ending Tech-Enabled Abuse) می‌گوید: تا زمانی که گوگل به طور پیشگیرانه مانع نشر تصاویر نامتعارف نشود، قربانیان باید خودشان مراقبِ یافتن و گزارش آن باشند.»

آمار‌های حذف محتوای نامناسب

گوگل در سال ۲۰۱۵ اقدامات برای حذف نتایج جستجو با موضوع «برهنگی» یا «رابطه جنسی» را آغاز کرد و این خط مشی را در پیش گرفت که محتوای خصوصی هرگز مجاز به انتشار نباشد.

حدود ۱۵ درصد از جستجو‌های تصویر و نیمی از جستجو‌های ویدیویی در میان میلیارد‌ها جستجوی ویدیویی که گوگل روزانه دریافت می‌کند، مربوط به پورنوگرافی است.

بر اساس گزارش‌هایی که دولت‌ها از گوگل می‌خواهند آن را افشا کند، گوگل از دسامبر ۲۰۲۰ تقریباً ۱۷۰ هزار پبوند جستجو و یوتیوب را که به دلیل نمایش محتوای جنسی نامناسب در کره جنوبی گزارش شده بود، حذف کرده است. در هند نیز گوگل پس از دریافت ۳۸۰ شکایت از کاربران در ماه می ۲۰۲۱ تقریباً ۳۰۰ محتوا را حذف کرد. داده‌ها همچنین نشان می‌دهد که گوگل بیشتر از رقیب خود (مایکروسافت) این گزارش‌ها را جدی می‌گیرد. اما بر اساس گزارش‌ها، مایکروسافت از سال ۲۰۱۵ تا ژوئن ۲۰۲۳ تنها در مورد ۵۲ درصد از تقریباً ۸۴۰۰ مورد شکایت جهانی اقدام کرد.

از آنجا که گوگل ترافیک قابل توجهی را در اختیار وب‌سایت‌های دارای محتوای نامتعارف (مانند برهنگی، رابطه جنسی و نمایش خشونت) قرار می‌دهد، می‌تواند آنها را مجبور به اتخاذ تدابیر سخت‌گیرانه کند. یکی از کارکنان سابق گوگل می‌گوید: حدود ۱۵ درصد از جستجو‌های تصویر و نیمی از جستجو‌های ویدیویی در میان میلیارد‌ها جستجوی ویدیویی که گوگل روزانه دریافت می‌کند، مربوط به پورنوگرافی است. قلمرو جهانی اطلاعات و داده‌ها در اختیار گوگل است و قانون‌گذاران ایالات متحده یک قانون جامع برای بررسی رضایت در بارگذاری‌های آنلاین را تصویب نکرده‌اند و در عین حال برخی از سرویس‌های محبوب برای اشتراک‌گذاری محتوای غیرمتعارف، مانند ردیت (Reddit) و شبکه ایکس (توییتر سابق) نیازی به ارائه مدرکی مبنی بر رضایت افراد ندارند.

روند حذف محتوای نامتعارف

مدیر محصول گوگل و سخنگوی آن ادعا می‌کنند که تیم جستجو در سه سال گذشته گام‌های بزرگی برای کاهش بار روانی قربانیان این جریان برداشته است، اما تحقیقات مجله وایرد نشان می‌دهد که برخی از پیشرفت‌ها با هشدار‌ها و خطا‌هایی همراه بوده است.

سیستمی که گوگل معرفی کرد که سعی می‌کند به‌طور خودکار لینک‌های جستجو برای محتوای نامتعارف را حذف کند. وقتی محتوای گزارش‌شدۀ قبلی در وب‌سایت‌های جدید ظاهر می‌شود، روی ویدیو‌ها یا تصاویر تغییریافته تأثیری ندارد و گوگل کارکنانی را برای بهبود آن اختصاص نداده است.

تغییر سیاست‌های گوگل

در آگوست گذشته، گوگل تغییر بزرگی در سیاست خود ایجاد کرد. این کمپانی تا پیش از این تاریخ محتوای تصویری یا ویدیویی نامتعارف مربوط به افراد را، حتی اگر به نظر می‌رسید که با رضایت آنها منشر شده، حذف نمی‌کرد. اکنون، اگر مشخص شود که مردم با انتشار آن موافقت نکرده اند، گوگل این محتوا را حذف خواهد کرد. قبلاً قوانین در این زمینه گیج کننده بود، اما اکنون ساده‌تر شده است.

مرکز ملی مبارزه با بردگی جنسی در واشنگتن، یک گروه ضد پورنوگرافی که به مرجع مبارزه با سوء استفاده جنسی مبتنی بر تصویر تبدیل شده است، استدلال می‌کند که حتی پس از بازبینی در سیاست‌ها، گوگل کوتاهی کرده است. این نهاد از گوگل می‌خواهد به‌طور خودکار به همه درخواست‌های حذف احترام بگذارد و وب‌سایت‌ها را موظف کند که مدارکی دال بر رضایت افراد مبنی بر ضبط و انتشار محتوای مورد مناقشه ارائه دهند.

این گزارش از مجله وایرد به فارسی برگردان شده است.