نتایج تحقیقات مشترک روزنامه والاستریت ژورنال و محققان دانشگاهی، نشان میدهد الگوریتمهای اینستاگرام با ترویج مطالب مربوط به سوءاستفاده جنسی از کودکان، شبکهای از این حسابها را به کاربران دیگر توصیه میکنند.
این تحقیقات که با کمک پژوهشگران دانشگاه استنفورد و دانشگاه ماساچوست امهرست انجام شده است، از ضعف بزرگ الگوریتمهای توصیه محتوای اینستاگرام پرده برمیدارند.
به گفته محققان، سیستم توصیه اینستاگرام با اتصال پدوفیلها به هم، آنها را به سمت فروشندگان محتوای جنسی کودکان هدایت میکند.
این محتواها به راحتی با هشتگهایی همچون «سکس پیشانوجوانی» قابل جستوجو و پیدا کردن هستند و کاربران را به حسابهایی که آشکارا فروش سکس کودکان را تبلیغ میکنند، هدایت میکنند.
این حسابها یک مِنو برای خرید محتوا در اختیار کاربران اینستاگرام قرار میدهند که شامل فیلمها و تصاویر گوناگون با موضوعاتی مانند آسیب به خود و وحشیگری است.
هنگامی که محققان با ساخت یک حساب آزمایشی اینستاگرام، محتوای این حسابها را مشاهده کردند، الگوریتم این شبکه اجتماعی بلافاصله حسابهای مشابه دیگری را برای دنبال کردن به آنها توصیه کرد.
محققان با استفاده از برخی هشتگهای مرتبط با سکس زیر سن قانونی، بیش از ۴۰۵ حساب کاربری پیدا کردند که احتمالا به وسیله خود این کودکان گردانده میشدند و برخی تنها با ۱۲ سال سن، دهها هزار دنبالکننده داشتهاند.
در گزارش روزنامه والاستریت ژورنال آمده است: «دنبال کردن تعداد انگشتشماری از این توصیهها کافی بود تا یک حساب آزمایشی با محتوای جنسی کودکان پر شود.»
به گفته محققان، یک مشکل متا، ناتوانی این شرکت در رصد تصاویر جدید سوءاستفاده جنسی از کودکان است چون نرمافزار بررسی و رصد اتوماتیک فقط برای تشخیص عکسهایی که از پیش وجود داشتند و دست به دست میچرخیدند طراحی شده بود.
مورد عجیب دیگر این است که اگر کاربری محتوایی غیرقانونی را جستوجو کند، هشداری با این محتوا به کاربر نشان داده میشود: «ممکن است تصاویری از سوءاستفاده جنسی از کودکان در میان نتایج باشد».
اما باز هم اینستاگرام به کاربر این امکان را داده تا با کلیک روی گزینه «نتایج را نشان بده» به آن محتواها دسترسی پیدا کند.
پس از افشاگری والاستریت ژورنال، اینستاگرام بدون اینکه توضیح بدهد چنین گزینهای چرا اصلا وجود داشته است، آن را حذف کرد.
دنبالکنندگان این دست حسابهای کاربری همچنین از ایموجیهای خاص، تصاویر و اختصاراتی استفاده میکردهاند که بین خودشان میدانستند به معنای «پورن کودکان» است.
میل جنسی به کودکان که به آن پدوفیلی یا «کودککامی» گفته میشود، نوعی ناهنجاری روانی است که در بسیاری از کشورها مجازات سنگینی برای جرایم مربوط به آن پیشبینی شده است.
شرکت «متا» بهعنوان مالک پلتفرم اینستاگرام، در واکنش به نتایج این تحقیقات گفت یک کارگروه داخلی را برای بررسی موارد مطرح شده ایجاد میکند.
این شرکت سوءاستفاده از کودکان را «جنایتی وحشتناک» توصیف کرد و گفت بهطور مداوم در حال بررسی شیوههایی برای مقابله با این رویه است.
متا همچنین خاطرنشان کرد در ماه ژانویه امسال، ۴۹۰ هزار حساب ناقض قوانین ایمنی کودکان را حذف کرده و از زمان آغاز تحقیقات والاستریت ژورنال، اینستاگرام هزاران هشتگی که کودکان را به موارد جنسی مرتبط می کنند، مسدود کرده است.
بر اساس این گزارش، برخی از این هشتگها میلیونها پست داشتهاند.
اما این تلاشها نه تنها کافی نیست بلکه برای آنها دیر هم شده است.
الکس استاموس، رییس رصدخانه اینترنت دانشگاه استنفورد و مدیر ارشد سابق امنیت شرکت متا به والاستریت ژورنال گفت که این شرکت باید تلاش بیشتری در این زمینه انجام دهد.
متا همچنین تاکید کرد طی دو سال گذشته ۲۷ شبکه مربوط به حسابهای پدوفیلی و هشتگهای مرتبط با این حوزه را شناسایی کرده و از بین برده است.
به گفته او، وقتی یک تیم کوچک سه نفره از محققان دانشگاهی با دسترسی محدود میتوانند چنین شبکه عظیمی را بیابند، متا باید زنگ خطر خود را به صدا درآورد.
این تحقیقات همچنین نشان میدهند شرکت متا گزارشهای کاربران درباره درخواست حذف محتوای آزار کودکان را نادیده میگیرد.
این پژوهش همچنین به بررسی رفتار پلتفرمهای دیگری مانند توییتر و تیکتاک نیز پرداخته است اما نتایج نشان میدهند محتوای جنسی کودکان در تیکتاک چندان در دسترس نیست.
نتایج این تحقیقات درباره توییتر هم به کشف ۱۲۸ حساب منجر شده که به فروش محتوای سوءاستفاده جنسی کودکان مشغول بودند اما میزان آن کمتر از یکسوم حسابهای کشف شده در اینستاگرام است.
توییتر گرچه کاربران کمتری نسبت به اینستاگرام دارد اما در زمینه مقابله با توصیه (نکردن) حسابهای پدوفیلی به کاربران، عملکرد بهتری داشته است.
ایلان ماسک، مدیرعامل توییتر، با واکنش به انتشار این خبر و اسکرینشاتی از تیتر والاستریت ژورنال آن را «بسیار بسیار نگران کننده» توصیف کرد.
اینستاگرام بیش از ۱/۳ میلیارد کاربر دارد و در بین نوجوانها هم از محبوبیت بسیاری برخوردار است.
