تحتوي مقاطع فيديو الأطفال على YouTube على كلمات صريحة من خلال التسميات التوضيحية التي يتم إنشاؤها تلقائيًا
يمتلك Rob the Robot الشهير على YouTube أكثر من أربعمائة ألف مشترك. تشتهر صفحة YouTube هذه بمحتواها التعليمي للأطفال. ومع ذلك ، يمكن لنظام الذكاء الاصطناعي الذي يقف وراء التسميات التوضيحية التي يتم إنشاؤها تلقائيًا لمثل هذا المحتوى استخدام لغة البالغين عن طريق إساءة فهم الكلمة الصحيحة واستبدالها بكلمة غير لائقة تبدو مشابهة للكلمة الأصلية.
أظهرت هذه الدراسة، التي أجريت مؤخرًا ، أن خوارزمية الذكاء الاصطناعي يمكنها تحويل مقطع فيديو تعليمي للأطفال إلى محتوى سيء بلغة البالغين. أثناء إجراء البحث في هذا الشأن ، تمت دراسة أكثر من سبعة آلاف مقطع فيديو ينتمون إلى أكثر من 24 قناة أطفال مختلفة. وأظهرت النتيجة أن 40٪ من المحتوى يحتوي على أكثر من ثلاثين مائة كلمة محظورة ، في حين أن البعض الآخر لديه مفردات غير لائقة. تشمل الأمثلة الشائعة استبدال السلطعون بالخرف والباستر بالنذل.
أشيك خودا بخش ، الأستاذ المساعد في معهد روتشستر ، هو أحد الباحثين وراء هذا الاكتشاف. شارك أشيك ملاحظاته بالإشارة إلى هذه القضية على أنها قضية مزعجة.
على الرغم من وجود خيار YouTube Kids ، إلا أن العديد من الآباء يفضلون التطبيق الفعلي. في بحث أجراه مركز بيو للأبحاث ، أظهرت النتائج أن أكثر من 80 في المائة من آباء الأطفال دون سن الحادية عشرة سمحوا لأطفالهم بمشاهدة محتوى يوتيوب ، في حين أن أكثر من 50 في المائة من هؤلاء الأطفال يشاهدون المحتوى على أساس يومي.
أكدت جيسيكا جيببي ، المتحدثة باسم التطبيق ، للجميع أن المنصة تعمل على جعل التسميات التوضيحية مكانًا آمنًا للأطفال. لا يقتصر الخلط بين الكلمات المقيدة بحسب العمر على محتوى الأطفال فحسب ، بل يقتصر على المحتوى الآخر أيضًا. اكتشف أحد المراسلين ذات مرة أن برنامج النسخ الصوتي ، Trint ، أساء فهم اسم Negar واستبدله بكلمة N غير المناسبة.
لا يزال هناك العديد من الفجوات ليتم ملؤها بالكلام إلى النص. الاعتماد الكامل على خوارزمية لملء هذه الفجوات ليس اختيارًا حكيمًا لأنه يمكن أن يخلق مشكلات غير مرغوب فيها. مثل تلك التي واجهتها شركة ناشئة بعد أن تم اكتشاف أن النظام كان يقوم بنسخ محتوى جنسي غير لائق يتعلق بالمراهقة.
يحتاج كل نظام إلى التغذية بالبيانات. في كثير من الحالات ، عادةً ما تتم إضافة البيانات الصوتية بواسطة البالغين ، في حين لا يتمكن الأطفال من إضافة البيانات بنفس القدر. وحتى إذا قاموا بإضافة ملفات ، فإن اللكنة ليست أصلية ، مما يؤدي إلى حدوث ارتباك.
اقترحت راتشيل تاتمان ، وهي لغوية ومؤلفة مشاركة في هذا البحث ، أن ضبط التسميات التوضيحية يمكن أن يساعد في تقليل الأخطاء ، ولكنها لن تكون مهمة سهلة.
كما يعمل أشيك خدي بخش وفريقه على الحلول الممكنة لهذا الوضع. قاموا بتشغيل بعض الصوت من خلال برامج أخرى أيضًا ، مثل Amazon ، واكتشفوا أن لديها نفس المشكلة أيضًا. سمح المتحدث باسم أمازون لمطوري التطبيقات بالنظر في هذه المسألة للتوصل إلى حلول محتملة حول كيفية تصفية الكلمات وفقًا للمحتوى.
