تيك توك يحذف مقاطع جنسية لنساء سوداوات مولّدة بالذكاء الاصطناعي بعد تحقيق لبي بي سي

حظر تطبيق تيك توك 20 حساباً، بعدما كشفت بي بي سي استخدام شخصيات رقمية لنساء سوداوات مولّدة بالذكاء الاصطناعي لتوجيه المستخدمين إلى مواقع تروّج لمحتوى جنسي صريح.

وتندرج هذه الحسابات ضمن اتجاه متنامٍ على إنستغرام وتيك توك، تعرّض لانتقادات بوصفه عنصرياً واستغلالياً ومضلّلاً، بسبب الصور النمطية واللغة المستخدمة.

وعثرت بي بي سي، بالتعاون مع باحثين من منصة "ريدانس" (Riddance) المستقلة المتخصصة بالذكاء الاصطناعي، على عشرات الحسابات تعرض شخصيات رقمية لنساء سوداوات بطابع جنسي واضح.

تمّ توليد الصور ومقاطع الفيديو باستخدام الذكاء الاصطناعي من دون وسم يوضح ذلك، في ما يعتقد أنه خرق لإرشادات المنصتين.

وتركّزت معظم الحسابات على إنستغرام، فيما كان لنحو ثلثها حضور أيضاً على تيك توك. وقالت ميتا، المالكة لـإنستغرام، لـبي بي سي إنها تحقق في الأمر، من دون إعلان أي إجراء.

وتظهر هذه الشخصيات غالباً بملابس سباحة كاشفة أو ملابس جريئة، مع إبراز ملامح جسدية مبالغ فيها.

كما تحمل بعض هذه الشخصيات درجات لون بشرة داكنة جداً جرى تعديلها رقمياً، ما يمنحها مظهراً غير طبيعي.

وتتضمن أسماء الحسابات كلمات مثل black وnoir وdark وebony، فيما تتضمن منشورات عدة إشارات إلى رجال بيض، مثل "تحب الرجال البيض"، و"لماذا أحتاج إلى رجل أبيض في حياتي". كما تتبادل هذه الحسابات المتابعة والتفاعل.

وحدّدت بي بي سي، بالتعاون مع المحللين جيريمي كاراسكو وأنجل نولاني من ريدانس، 60 حساباً من هذا النوع، معظمها على إنستغرام، تضم روابط أو سلاسل روابط تقود إلى محتوى جنسي مدفوع على مواقع خارجية. وكانت تلك المواقع تضع وسم مولّد بالذكاء الاصطناعي، بينما لا تفعل حسابات إنستغرام ذلك.

كما رصد البحث عدداً أكبر من الحسابات على إنستغرام وتيك توك تستخدم شخصيات مماثلة مولّدة بالذكاء الاصطناعي، من دون الارتباط بمحتوى مدفوع.

أثار أحد الحسابات التي حظرها تيك توك، مع استمراره على إنستغرام وقت النشر، غضباً بعد نشره مقاطع فيديو مسروقة من أشخاص حقيقيين.

ويُقدَّم الحساب على أنه يعود إلى شخصية مولّدة بالذكاء الاصطناعي، وقد جمع ثلاثة ملايين متابع خلال أسابيع من إنشائه في ديسمبر/كانون الأول.

إلا أنه أعاد نشر مقاطع لصانعة محتوى حقيقية، ريا أولان، وهي عارضة أزياء مقيمة في ماليزيا، بعد تعديلها.

ويتمّ تركيب وجه الشخصية الافتراضية ببشرة داكنة جداً مولّدة رقمياً، على جسد ريا، مع محاكاة حركاتها وملابسها وخلفيتها.

وقالت ريا لـ"بي بي سي": "كنت غاضبة. صحيح أن مقاطع الفيديو الخاصة بي متاحة… لكن هذا لا يعني أنه يمكن أخذها وسرقتها ونشرها على أنها لكم."

حقق أحد المقاطع المعدّلة أكثر من 35 مليون مشاهدة على تيك توك و173 مليوناً على إنستغرام، أي نحو 47 ضعف مشاهدات منشور ريا الأصلي.

وبينما لا تحمل المقاطع الثلاثة المطابقة لمحتوى ريا طابعاً جنسياً، تُظهر مقاطع أخرى على الحساب نفسه، باستخدام الشخصية الرقمية ذاتها، بملابس كاشفة أو في أوضاع إيحائية. كما تقود روابط مرتبطة بالحساب إلى محتوى مدفوع للبالغين.

وقالت ريا: "لا أعرف إن كان ما يقلقني أكثر هو استخدام مقاطعي للترويج لمحتواهم الصريح، أم أن الناس يصدقون ذلك فعلاً".

وأضافت أن التمييز بين الحقيقي والمضلل يزداد صعوبة، وأن "الناس ما زالوا ينخدعون بهذه النماذج".

ويبدو أن كثيرين يتعاملون مع هذه الشخصيات على أنها حقيقية، رغم ملامحها غير الواقعية. وفي منشورات أو قصص على إنستغرام، تنفي بعض الحسابات استخدام الذكاء الاصطناعي، بما في ذلك الحساب الذي نشر محتوى ريا.

وقالت ريا إنها أبلغت عن الحساب على المنصتين مرات عدة، لكن المحتوى لم يُحذف حينها. وقد حظرته تيك توك بعد أن تواصلت معه بي بي سي للتعليق.

تقول الباحثة أنجل نولاني: "أعتقد أن هذه الحسابات عنصرية، لأن وجودها يكرّس تاريخاً طويلاً من استغلال السود".

وتضيف: "استخدامها للرسوم الكاريكاتورية، ومصطلحات لعب الأدوار العرقية، والصور غير الواقعية للنساء السوداوات، يظهر أنها لا تهتم بسلامتنا أو رفاهنا، بل بقدرتنا على أن نُستغل ضمن صناعة المواد الإباحية على الإنترنت".

ويقول الباحث جيريمي كاراسكو، الذي ينتقد اتجاهات وتقنيات الذكاء الاصطناعي عبر حساباته على وسائل التواصل، إن "الجديد هو حجم الصور العنصرية الصريحة التي تُظهر أشخاصاً ببشرة شديدة السواد".

ويضيف: "قد يكون هذا الهوس موجوداً سابقاً، لكن الذكاء الاصطناعي يمنحه زخماً جديداً". ويوضح أن الذكاء الاصطناعي يسهّل إزالة التدرجات الطبيعية في الصور والفيديوهات لإنتاج درجات لون بشرة غير طبيعية، وكذلك إنشاء تأثيرات كانت تتطلب سابقاً رسوماً متحركة أو تلويناً للبشرة.

ويضيف أنه لا تترتب تبعات اجتماعية على استخدام الشخصيات الافتراضية: "لا يوجد شعور بالخجل… وهذا ما يستغله الذكاء الاصطناعي بشكل فريد".

تقول هدى فنون، عارضة أزياء وصانعة محتوى مغربية تدعو إلى تمثيل أكثر واقعية للنساء السوداوات، إن هذا التوجّه يتعلق بـ"المحو".

وتضيف: "شعر ناعم كالحرير، وأجساد نحيلة للغاية، وبشرة مثالية بشكل مستحيل… كأن الجمال الأسود لا يقبل إلا إذا جرى تهذيبه".

وترى أن ذلك قد يعزّز الصور النمطية، بينما "تستبدل قصصنا وتجاربنا الحياتية بصورة مصطنعة".

وأرسلت بي بي سي إلى ميتا وتيك توك أمثلة على الحسابات التي رصدتها، وطلبت ردّهما.

وبعد يومين، قال متحدث باسم تيك توك لـبي بي سي إن الشركة "أزالت محتوى وحظرت حسابات تنتهك قواعدنا".

وخلال أيام، أدرج 20 حساباً ضمن الحسابات المحظورة على التطبيق.

وأضاف المتحدث: "تحظر تيك توك المحتوى المولّد بالذكاء الاصطناعي لأفراد من دون إذنهم، ولدينا سياسة عدم تسامح مطلق مع المحتوى الذي يروّج لخدمات جنسية خارج المنصة".

وقالت الشركة إنها تحظر وتزيل المحتوى المولّد بالذكاء الاصطناعي إذا كان ضاراً أو مضلّلاً، وتلزم المستخدمين بوضع وسم على المحتوى الواقعي المولّد بالذكاء الاصطناعي، مشيرة إلى أنها أضافت الوسم الصحيح إلى عدد من المقاطع.

أما ميتا فقالت إنها تحقق في المحتوى الذي أبلغت به.

وأضافت أنها تسعى إلى تمكين المستخدمين من معرفة متى يكون المحتوى مولّد بالذكاء الاصطناعي، وأن لديها سياسات قائمة لوسم هذا النوع من المحتوى. ويبدو أن تسعة حسابات على إنستغرام كانت بي بي سي تتبّعها لم تعد موجودة.

ولم تقدّم أي من المنصتين تفاصيل بشأن استجابتهما لبلاغات ريا الأولية.