فيديوهات مخلة ومشاهد صادمة بالذكاء الاصطناعي تظهر للصغار على تيك توك دون رقابة

كشفت صحيفة نيويورك بوست الأمريكية عن انتشار مقاطع فيديو وإعلانات ذات محتوى جنسي ومشاهد عنف، جرى إنتاجها باستخدام تقنيات الذكاء الاصطناعي، عبر منصة تيك توك، مشيرة إلى إمكانية ظهورها أمام الأطفال والمراهقين، رغم ما تثيره من مخاوف بشأن سلامتهم الرقمية.

فيديوهات مخلة ومشاهد صادمة بالذكاء الاصطناعي تتسلل إلى حسابات الصغار على تيك توك

وفقًا للتحقيق، تتضمن هذه المقاطع مشاهد مخلة ومواقف جنسية خيالية، من بينها قصص لنساء في علاقات غير لائقة مع شخصيات خيالية، وأخرى تتناول علاقات مع مخلوقات أسطورية، فضلًا عن مشاهد اعتداء وعنف، بينها مقطع يظهر رجلًا يطعن صديقته في صدرها ويصفعها على وجهها.

وتنتمي هذه الفيديوهات إلى صناعة المسلسلات القصيرة العمودية الصينية المعروفة باسم «دوانجو»، التي تُقدر قيمتها بنحو 14 مليار دولار، وتعتمد على حلقات سريعة لا تتجاوز مدتها دقيقة أو دقيقتين، وتنتشر عبر تطبيقات ومنصات من بينها PineDrama التابع لتيك توك، وReelShort وDramaBox.

وأوضحت الصحيفة أن بعض هذه المقاطع يُنشر عبر حسابات بأسماء غير واضحة، كما تظهر في صورة محتوى عادي أو إعلانات ترويجية لتطبيقات متخصصة في إنتاج المسلسلات القصيرة، وهو ما قد يجعلها تصل إلى المستخدمين صغار السن، خاصة أن الحد الأدنى المسموح به لاستخدام تيك توك هو 13 عامًا.

ولم تقتصر المخاوف على الفيديوهات المخلة، إذ حذرت شركة Copyleaks المتخصصة في الكشف عن المحتوى المُنتج بالذكاء الاصطناعي من أن بعض الإعلانات تروج لتطبيقات تتيح إنشاء صور ومقاطع جنسية مزيفة لأشخاص حقيقيين دون موافقتهم، بما في ذلك مشاهير.

وقال ألون يامين، الرئيس التنفيذي للشركة، إن فريقه رصد ما يقرب من 50 تطبيقًا على متجر تطبيقات آبل تستخدم الذكاء الاصطناعي لإنشاء مقاطع جنسية صريحة مزيفة، مضيفًا أن نتائج البحث تكشف عن سهولة وصول هذه الخدمات إلى المستخدمين، وهو ما يثير مخاوف بشأن انتشار المحتوى الجنسي غير الرضائي.

من جانبها، أكدت شركة آبل لصحيفة نيويورك بوست أن التطبيقات التي تتيح إنشاء محتوى مزيف تخالف إرشادات متجرها، مشيرة إلى اتخاذ إجراءات لإزالة 3 تطبيقات وردت في تقرير Copyleaks بتاريخ 29 يوليو.

كما حذرت تيسا ستوكي، المتخصصة في تربية الأطفال والصحة العقلية، من الآثار النفسية التي قد تترتب على تعرض الأطفال لمثل هذه المواد، موضحة أن مشاهدة المحتوى الصريح في سن مبكرة قد ترتبط بالخجل والقلق واضطرابات النوم، فضلًا عن تكوين تصورات مشوهة عن العلاقات.

وفي المقابل، قال متحدث باسم تيك توك إن المنصة لم تتمكن من العثور على الإعلانات المشار إليها أثناء مراجعتها للأمثلة التي أرسلتها الصحيفة، موضحًا أن بعض المقاطع كانت محتوى منشورًا بواسطة المستخدمين وليست إعلانات مدفوعة، وأن أحدها حُذف، بينما جرى تصنيف مقطعين آخرين بما يحد من انتشارهما.

وأكدت المنصة أن سياساتها تحظر الإعلانات المدفوعة التي تتضمن محتوى جنسيًا صريحًا أو موحيًا، كما تمنع الخدمات التي تنشئ محتوى بغرض المتعة أو الإثارة الجنسية، مشيرة إلى أن المقاطع التي تتضمن عنفًا أو مواد حساسة لا تكون مؤهلة للظهور في صفحة «لك».

ورغم هذه التوضيحات، يرى خبراء أن المحتوى المثير للجدل قد يظل قادرًا على الوصول إلى المستخدمين، إذا لم يُصنف بصورة صحيحة أو نجحت بعض أدوات الذكاء الاصطناعي في تجاوز آليات رصد المحتوى المخالف.