أخبار العالمسلايد رئيسي

يُفضّل البيض على السود..كشف تغريدة عنصرية على تويتر تضع الشركة بموقف محرج

كشفت تقارير صحافية عالمية، عن ثغرة في خوارزميات منصة تويتر، حيث يستخدم تقنيات رقمية، أوضحتها تغريدة عنصرية، تظهر تحيزاً عرقياً واضحاً، وأشار موقع “إنغادجيت” التقني المتخصص إلى أن منصة تويتر أقرت بصورة جزئية، بخطأ الخوارزميات الخاصة بها.

تقنيات رقمية وتغريدة عنصرية لتويتر تفضح تحيزه للعرق الأبيض

وتبحث منصة تويتر في سبب تفضيل الخوارزمية التي تستخدمها لتوليد معاينة الصور، إظهار وجوه الأشخاص البيض بشكل متكرر، أكثر من الوجوه السوداء.

وأظهر العديد من مستخدمي تويتر المشكلة خلال اليومين الفائتين، حيث نشروا أمثلة على المشاركات التي تضمنت وجه شخص أسود ووجه شخص أبيض.

وأظهرت معاينة تويتر الوجوه البيضاء في الكثير من الأحيان، وبدأ الاختبار غير الرسمي بعد أن حاول أحد مستخدمي تويتر النشر عن مشكلة لاحظها في ميزة التعرف على الوجه في تطبيق زووم، حيث لم تكن تُظهر وجه زميل أسود في المكالمات.

ولاحظ أن خوارزمية تويتر تفضل الوجه الأبيض على الوجه الأسود عندما نشر المشكلة على تويتر، واكتشف المستخدمون أن خوارزمية المعاينة اختارت شخصيات كرتونية غير سوداء أيضاً.

وأوضح باحثو التعلم الآلي في تدوينة كيف بدأوا بالتعرف على الوجه لاقتصاص الصور، وذلك عندما بدأت المنصة لأول مرة في استخدام الشبكة العصبية لاقتصاص معاينات الصور تلقائياً.

وقالت التدوينة استخدمنا في السابق ميزة اكتشاف الوجه لتركيز الرؤية على أبرز وجه يمكننا العثور عليه، وبالرغم من أن هذا ليس استدلالاً غير منطقي، إلا أن النهج له حدود واضحة نظراً لأنه لا تحتوي جميع الصور على وجوه.

وأضافت غالباً ما يتجنب جهاز كشف الوجه لدينا الوجوه وأحيانا يكتشف الوجوه عن طريق الخطأ عندما لا تكون هناك أي وجوه، وفي حال لم يتم العثور على وجوه، فسنركز الرؤية على وسط الصورة، وقد يؤدي ذلك إلى اقتصاص صور المعاينة بشكل محرج.

مسؤولون في تويتر يحاولون تبرير الخوارزمية العنصرية

وغرد كبير مسؤولي التصميم في تويتر “دانتلي ديفلي” بأن الشركة كانت تحقق في الشبكة العصبية، حيث أجرى بعض التجارب غير العلمية على الصور.

وغردت “ليز كيلي” من فريق التواصل في تويتر بأن الشركة اختبرت التحيز قبل إرسال النموذج لكنها لم تجد دليلاً على التحيز العنصري أو الجنساني في اختبارها

وكتبت كيلي عبر منصة تويتر من الواضح من هذه الأمثلة أن لدينا المزيد من التحليل للقيام به، ونحن نبحث في هذا، ونواصل مشاركة ما نتعلمه والإجراءات التي نتخذها، وسنفتح مصدر عملنا حتى يتمكن الآخرون من المراجعة والتكرار

وغرد كبير مسؤولي التكنولوجيا في تويتر باراغ أغراوال أن النموذج بحاجة إلى تحسين مستمر، مضيفاً أنه حريص على التعلم من التجارب

إعادة النظر في الأنظمة الرقمية المستخدمة

وسبق لشركة فيسبوك أن أعلنت يونيو الماضي تحقيقها في ما إذا كانت خوارزمياتها تميز ضد الأقليات العرقية، بعدما أجبرتها الاحتجاجات الداخلية على إعادة تقييم إمكانية التقاط أنظمتها للتعلم الآلي التحيز الموجود على أرض الواقع.

وستكلف فرق الإنصاف والدمج في الشركة بتقييم خوارزميات موقعي فيسبوك وإنستغرام، والتأكد من عدم انحيازها ضد السود واللاتينيين وغيرهم من الأقليات العرقية. ولفتت فيسبوك إلى أن تركيزها سينصب على ضمان الإنصاف وتطوير الخدمات العادلة.

وأوضحت الشركة أن هدف فرقها الجديدة رصد أي مقاربات متحيزة وضمان أن تعامل الخدمة كل العرقيات بمساواة، مشيرة إلى أنها ستعلن المزيد من التفاصيل حول المبادرة خلال الأشهر المقبلة.

اقرأ أيضاً : منصة تويتر تضاعف حروف التغريدة رسمياً

وقال نائب رئيس المنتجات في إنستغرام فيشال شاه في بيان إن حركة العدالة الاجتماعية تشكل لحظة مفصلية حقيقية بالنسبة لشركتنا، إن أي تحيز في أنظمتنا أو سياساتنا يتعارض مع مبدأ توفير منصة تسمح للجميع بالتعبير عن أنفسهم.

شاهد أيضاً : البوركيني يشعل مشاجرة بين سيدتين ويتصدر التويتر المصري.. “شكله وحش”

يُفضّل البيض على السود..كشف تغريدة عنصرية على تويتر تضع الشركة بموقف محرج
يُفضّل البيض على السود..كشف تغريدة عنصرية على تويتر تضع الشركة بموقف محرج
الوسوم

مقالات ذات صلة

زر الذهاب إلى الأعلى