في وقت يُفترض أن تكون فيه منصة يوتيوب مساحة آمنة لتسلية الأطفال، تواجه المنصة تحديًا جديدًا يتمثل في موجة من الفيديوهات التي تجمع بين شخصيات كرتونية محبوبة ومشاهد رعب صادمة، تم إنتاجها بالكامل باستخدام أدوات الذكاء الاصطناعي، ما يثير مخاوف واسعة بشأن سلامة المحتوى الموجه لصغار السن.
ظاهرة جديدة ومقلقة
وفقًا لتحقيق حديث نُشر عبر موقع Wired، ظهرت قنوات جديدة مثل “Go Cat” تستهدف الأطفال بمحتوى تم إنشاؤه باستخدام أدوات الذكاء الاصطناعي، وتعرض في البداية شخصيات مرسومة تبتسم وتتحرك بطريقة لطيفة.
إلا أن الفيديوهات سرعان ما تتحول إلى مشاهد مزعجة تتضمن رعب جسدي، مثل إطلاق النار.
هذه المشاهد لا تنطوي فقط على استخدام العنف بشكل مفرط، بل تدمج عناصر من “رعب الجسد” بأسلوب يشبه أعمال المخرج الشهير ديفيد كروننبرغ، مما يجعلها غير مناسبة على الإطلاق للأطفال، رغم كونها مخفية تحت غطاء رسوم متحركة لطيفة.
ضعف الرقابة رغم السياسات
رغم أن يوتيوب يعتمد على إرشادات مجتمع صارمة تمنع المحتوى غير المناسب للأطفال، إلا أن التحدي يكمن في سهولة استخدام أدوات الذكاء الاصطناعي لإنشاء مثل هذه المقاطع بكميات كبيرة.
حتى بعد إزالة قناة أو مقطع مخالف، يتمكن أصحاب المحتوى من إعادة النشر بسرعة عبر قنوات جديدة، مما يصعب على المنصة فرض رقابة فعالة ومستدامة.
وتشير تقارير إلى أن بعض هذه الفيديوهات تحقق مشاهدات مرتفعة، مع وجود مؤشرات على استخدام روبوتات لرفع عدد المشاهدات والتعليقات، بهدف تضليل خوارزميات التوصية الخاصة بالمنصة.
ما الذي يمكن فعله لحماية أطفالك؟
لمكافحة هذه الظاهرة، يُنصح الآباء بممارسة رقابة نشطة على ما يشاهده أطفالهم على الإنترنت، وعدم الاعتماد فقط على خوارزميات المنصة لتحديد المحتوى الآمن.
كما يُشجَّع على استخدام أدوات التبليغ المتاحة داخل يوتيوب عند ملاحظة محتوى مريب أو غير لائق.
وبينما تستمر المنصة في تحسين أنظمتها، تظل مسؤولية حماية الأطفال من هذا النوع من “المحتوى المزيّف والرعب المصنوع” مسؤولية مشتركة بين الشركات التقنية، والمجتمع، والأسر.
