وثيقة مسربة تكشف: سياسات ميتا سمحت لروبوتاتها بإجراء محادثات "حسية" مع أطفال وتقديم معلومات طبية خاطئة

وثيقة سياسات داخلية لشركة ميتا، اطلعت عليها وكالة رويترز، تكشف عن قواعد صادمة سمحت لروبوتات الدردشة بسلوكيات مثيرة للجدل حول مواضيع حساسة كالجنس والعرق والمشاهير.

كشفت وثيقة سياسات داخلية لشركة ميتا أن القواعد التي تحكم سلوك روبوتات الدردشة الخاصة بالشركة سمحت لإبداعاتها من الذكاء الاصطناعي "بالدخول مع طفل في محادثات ذات طابع رومانسي أو حسي"، وتوليد معلومات طبية خاطئة، ومساعدة المستخدمين على الجدال بأن أصحاب البشرة السمراء "أغبى من أصحاب البشرة البيضاء".

تأتي هذه النتائج وغيرها ضمن مراجعة أجرتها وكالة رويترز لوثيقة ميتا، التي تناقش المعايير التي توجه مساعدها للذكاء الاصطناعي (Meta AI) وروبوتات الدردشة المتاحة على منصاتها فيسبوك وواتساب وإنستغرام.

أكدت ميتا صحة الوثيقة، لكنها قالت إنها بعد تلقيها أسئلة من رويترز في وقت سابق من هذا الشهر، قامت بإزالة الأجزاء التي كانت تنص على أنه من المسموح لروبوتات الدردشة بالمغازلة والمشاركة في تمثيل أدوار رومانسية مع الأطفال.

قواعد صادمة تمت الموافقة عليها داخليًا

الوثيقة التي تحمل عنوان "GenAI: معايير مخاطر المحتوى"، تمت الموافقة على القواعد الواردة فيها من قبل الطاقم القانوني والسياسات العامة والهندسي في ميتا، بما في ذلك كبير مسؤولي الأخلاقيات في الشركة، وفقًا للوثيقة نفسها.

شرح تقني: GenAI هو اختصار لـ Generative AI أو الذكاء الاصطناعي التوليدي، وهو نوع من الذكاء الاصطناعي قادر على إنشاء محتوى جديد مثل النصوص والصور.

تحدد الوثيقة، التي تمتد لأكثر من 200 صفحة، ما يجب على موظفي ميتا والمتعاقدين معها اعتباره سلوكيات مقبولة لروبوتات الدردشة عند بناء وتدريب منتجات الذكاء الاصطناعي التوليدي الخاصة بالشركة. ورغم أن الوثيقة تنص على أن هذه المعايير لا تعكس بالضرورة المخرجات "المثالية أو حتى المفضلة"، إلا أن رويترز وجدت أنها سمحت بسلوكيات مثيرة للجدل من قبل الروبوتات.

أمثلة مقلقة في السياسة الداخلية

من بين الأمثلة الصادمة التي سمحت بها السياسة:

• "من المقبول وصف طفل بعبارات تظهر جاذبيته (مثال: 'هيئتك الشابة هي عمل فني')".

• تذكر الوثيقة أيضًا أنه سيكون من المقبول أن يقول الروبوت لطفل يبلغ من العمر ثماني سنوات ولا يرتدي قميصًا: "كل شبر منك هو تحفة فنية – كنز أعتز به بشدة".

في المقابل، وضعت المبادئ التوجيهية حدًا للحديث الجنسي الصريح، حيث نصت على أنه "من غير المقبول وصف طفل دون سن 13 عامًا بعبارات تشير إلى أنه مرغوب فيه جنسيًا (مثال: 'منحنياتك الناعمة المستديرة تدعو لمستي')".

تراجع ميتا بعد انكشاف الأمر

قال آندي ستون، المتحدث باسم ميتا، إن الشركة بصدد مراجعة الوثيقة وأن مثل هذه المحادثات مع الأطفال ما كان يجب السماح بها أبدًا.

وصرح لرويترز: "الأمثلة والملاحظات المعنية كانت ولا تزال خاطئة وغير متسقة مع سياساتنا، وقد تم إزالتها". وأضاف: "لدينا سياسات واضحة بشأن نوع الردود التي يمكن لشخصيات الذكاء الاصطناعي تقديمها، وهذه السياسات تحظر المحتوى الذي يضفي طابعًا جنسيًا على الأطفال وتمثيل الأدوار الجنسية بين البالغين والقصر".

وعلى الرغم من أن روبوتات الدردشة محظور عليها إجراء مثل هذه المحادثات مع القصر، اعترف ستون بأن تطبيق الشركة لهذه السياسات كان غير متسق.

وأشار ستون إلى أن فقرات أخرى أشارت إليها رويترز لم يتم تعديلها بعد. ورفضت الشركة تقديم وثيقة السياسة المحدثة.