تعمل خوارزميات Instagram بنشاط على الترويج لشبكات من المتحرشين بالأطفال الذين يكلفون ويبيعون محتوى الاعتداء الجنسي على الأطفال على تطبيق Meta الشهير لمشاركة الصور.
وكشف تحقيق مشترك من صحيفة وول ستريت جورنال وأكاديميين في جامعة ستانفورد وجامعة ماساتشوستس أمهيرست عن مدى ربط أنظمة التوصية في Instagram المتحرشين بالأطفال وتوجيههم إلى بائعى المحتوى.
ويتم الإعلان عن الحسابات التي وجدها الباحثون باستخدام علامات التصنيف الصارخة والصريحة مثل #pedowhore و #preteensex و #pedobait وهي توفر قوائم بالمحتوى ليشتريها المستخدمون أو يكلفوا بها، بما في ذلك مقاطع فيديو وصور لإيذاء النفس والحيوية، وعندما أنشأ الباحثون حسابًا تجريبيًا وعرضوا المحتوى الذي تشاركه هذه الشبكات، تمت التوصية عليهم على الفور بمزيد من الحسابات للمتابعة، وفقًا لتقرير وول ستريت جورنال: كان اتباع عدد قليل فقط من هذه التوصيات كافياً لإغراق حساب اختباري بالمحتوى الذي يجعل الأطفال جنسيًا.
وردا على التقرير، قالت ميتا إنها بصدد تشكيل فريق عمل داخلي لمعالجة القضايا التي أثارها التحقيق، وقالت الشركة استغلال الأطفال جريمة مروعة ونحن نبحث باستمرار عن طرق للدفاع بنشاط ضد هذا السلوك.
وأشار ميتا إلى أنه في شهر يناير وحده، قام بحذف 490 ألف حساب انتهك سياسات سلامة الأطفال الخاصة به، وأزال على مدار العامين الماضيين 27 شبكة من شبكات الاستغلال الجنسي للأطفال، وقالت الشركة ، التي تمتلك أيضًا Facebook و WhatsApp، إنها حظرت أيضًا الآلاف من علامات التصنيف المرتبطة بجنس الأطفال وحظرت هذه المصطلحات من عمليات بحث المستخدم.
وأخبر أليكس ستاموس، رئيس مرصد الإنترنت في ستانفورد وكبير مسؤولي الأمن السابق لشركة Meta ، وول ستريت جورنال أن الشركة يمكنها وينبغي أن تفعل المزيد لمعالجة هذه المشكلة، وقال ستاموس: إن فريقًا من ثلاثة أكاديميين يتمتعون بإمكانية وصول محدودة يمكن أن يجدوا مثل هذه الشبكة الضخمة يجب أن يطلق الإنذارات في ميتا، آمل أن تعيد الشركة الاستثمار في المحققين البشريين.
بالإضافة إلى مشاكل خوارزميات التوصية في Instagram ، وجد التحقيق أيضًا أن ممارسات الاعتدال في الموقع تتجاهل أو ترفض بشكل متكرر تقارير عن مواد إساءة معاملة الأطفال.
وتسرد وول ستريت جورنال الحوادث التي أبلغ فيها المستخدمون عن منشورات وحسابات تحتوي على محتوى مشبوه (بما في ذلك حساب واحد أعلن عن مواد إساءة معاملة القاصرين مع التسمية التوضيحية هذا المراهق جاهز لك المنحرفين) فقط ليتم مسح المحتوى من قبل فريق مراجعة Instagram أو إخباره في رسالة تلقائية: نظرًا للكم الهائل من التقارير التي نتلقاها ، ولم يتمكن فريقنا من مراجعة هذه المشاركة. وقالت ميتا للصحيفة إنها فشلت في التصرف بشأن هذه التقارير وأنها تراجع عملياتها الداخلية.
ونظر التقرير أيضًا إلى منصات أخرى لكنه وجدها أقل قابلية لتنمية مثل هذه الشبكات، وفقًا لـ WSJ ، ووجد محققو جامعة ستانفورد 128 حسابًا يعرضون بيع مواد الاعتداء الجنسي على الأطفال على Twitter ، أقل من ثلث الرقم الذي وجدوه على Instagram على الرغم من أن Twitter به عدد أقل بكثير من المستخدمين، وأن هذا المحتوى لا يظهر لتتكاثر على TikTok، وأشار التقرير إلى أن Snapchat لم تروج بنشاط لمثل هذه الشبكات لأنها تستخدم بشكل أساسي للمراسلة المباشرة.
وقال ديفيد ثيل، كبير التقنيين في مرصد ستانفورد للإنترنت، للصحيفة إن Instagram لم يكن يحقق التوازن الصحيح بين أنظمة التوصية المصممة لتشجيع المستخدم وتوصيل المستخدمين، وميزات الأمان التي تفحص المحتوى المسيء وتزيله.
وقال تيل: عليك أن تضع حواجز حماية في مكانها لشيء كثيف النمو حتى يظل آمنًا اسميًا ، ولكن Instagram ليس كذلك.
