ترجمة وإعداد: هالة الحسن

تحدثت الأستاذة صفية نوبل، خلال اجتماع مائدة مستديرة مؤخراً، حول حقوق الإنسان الرقمية، القضية التي تعمل عليها الأمم المتحدة. تستكشف الدكتورة نوبل في كتابها المشهور “خوارزميات الاضطهاد”، التحيز ضد النساء والأشخاص الملونين الذين يتم تضمينهم في نتائج محركات البحث والخوارزميات بينما ننتقل إلى عصر رقمي بشكل متسارع.

أوضحت د. نوبل أن كتابها جاءت فكرته من مشروع خلال دراستها العليا، عندما لاحظت ارتفاع شعبية محركات البحث كمصدر للمعرفة العامة. وقد صدمت عندما اكتشفت أنها عندما كتبت “الفتيات السوداوات” في شريط البحث، فإن الصفحة الأولى أعادت الصور الإباحية باعتبارها التمثيل الرئيسي للفتيات الأمريكيات من أصول أفريقية. بالنسبة للدكتور نوبل، فتح هذا سلسلة من الأسئلة حول كيفية تنسيق محتوى محرك البحث. وأظهرت دراساتها أنه في الوقت الذي يتم فيه أخذ معايير متعددة في الاعتبار في نتائج محرك البحث، فإن هذه النتائج تعكس إلى حد كبير الرأي العام – حيث يركز تمثيل الفتيات السود في كثير من الأحيان على الصور الجنسية والعنصرية، بسبب الصور النمطية السلبية التي يمتلكها الكثيرون عن هؤلاء الفتيات. ووجدت د. نوبل نتائج مماثلة للفتيات اللاتينيات والآسيويات الأمريكيات.

توضح الأبحاث أيضًا أن الرأي العام وما نراه عبر الإنترنت يعززان بعضهما البعض. في تقرير صدر مؤخراً، حذر مقرر الأمم المتحدة الخاص بتعزيز وحماية الحق في حرية الرأي والتعبير ديفيد كاي من أنه نظراً لأن الذكاء الاصطناعي (AI) يمكنه إضفاء طابع شخصي على ما يراه المستخدمون على الإنترنت، فالذكاء الاصطناعي “قد يعزز التحيزات ويحفز على الترويج والتوصية بمحتوى تحريضي أو التضليل من أجل دعم تفاعل المستخدمين عبر الانترنت. وبعبارة أخرى، يمكن أن يتشكل محتوى محرك البحث عن طريق التحيز العام وقد تعزز التحيزات عن طريق ارتدادها كنتائج بحث يعتقد 73٪ من المستخدمين أنها دقيقة وجديرة بالثقة. مع استمرار التحيز، بدأ الناس ينظرون إلى المحتوى باعتدال كحل، حيث تراقب شركات التكنولوجيا المواد التي ينشئها المستخدمون وفقًا للإرشادات المحددة مسبقًا لتحديد ما إذا كان يجب إزالة المحتوى أو تركه. على سبيل المثال، تقوم بعض الشركات بإنزال محتوى ينشر معلومات مضللة أو فاحشة أو خطاب عنيف يحض على الكراهية.

راديو الكراهية

تطرقت تحديات تصفية المحتوى وتنظيم الأفكار إلى تقنيات أخرى مثل الراديو. فعلى سبيل المثال، أثناء الإبادة الجماعية في رواندا، استُخدم “راديو الكراهية” لنشر الدعاية المناهضة للتوتسي وفي وقت لاحق، لتوجيه القتلة والأفراد المستهدفين. ومع ذلك، وكما أشارت د. نوبل، يختلف الراديو والإنترنت من حيث تنظيم المحتوى. غالباً ما يتطلب البث الإذاعي على الراديو الحصول على ترخيص من الحكومة، والتي، على الأقل في بعض البلدان، تحتوي على إرشادات حول ما يمكن وما لا يمكن قوله على موجات الأثير. علاوة على ذلك، تمتلك المحطات الإذاعية المزيد من الآليات لتنظيم من يتحدث، حول ماذا، وفي أي وقت. على النقيض من ذلك، تفتقر شبكة الإنترنت إلى هذا التدقيق وتمكّن أي شخص من نشر أي شيء تقريباً في أي وقت (في أي مكان وفي كل مكان)، كما ناقشت نوبل في مجلة تايم. من الغريب أن نفكر في مدى تضخيم رسائل الكراهية في رواندا لو كانت هذه المنصات متوفرة آنذاك. في الواقع، قد يحدث هذا بالفعل لأن خبراء الأمم المتحدة الذين يحققون في الإبادة الجماعية في ميانمار قالوا إن فيسبوك: لعب دوراً في نشر خطاب الكراهية.

قانون الأخبار المزيفة

يحظر القانون الدولي لحقوق الإنسان (والعديد من الدول في أوروبا والعالم) “خطاب الكراهية”، بينما تتبنى الولايات المتحدة نظرة وقائية نحو حرية التعبير القوية. إن خطر تنظيم التعبير بطبيعة الحال، هو أنه يمكن للحكومات أن تستخدمه ضد الخطاب غير الشعبي، والأقليات، والمعارضين السياسيين (كما أن تايلند تشارك في الوقت الحالي في إطار قانون جرائم الكمبيوتر أو قانون “الأخبار المزيفة”). ولكن حتى عند مناقشة جانب واحد لمسألة حرية التعبير، فإن مقرر الأمم المتحدة الخاص ديفيد كاى يتساءل عما إذا كان الأفراد قادرين حقاً على ممارسة حرية الرأي – بما في ذلك الحق في تكوين رأي – بالنظر إلى أن صياغة المحتوى عبر الإنترنت يثير أسئلة جديدة حول أنواع الإكراه أو الإغراء الذي يمكن اعتباره تدخلاً في الحق في تكوين رأي. يتم تنظيم معظم المحتوى عبر الإنترنت ليس لأغراض إزالة المواد “الهجومية”، ولكن بدلاً من ذلك جذب انتباه متصفحي الويب والترويج للإعلانات – وهو نموذج أعمال مهيمن لعمالقة وسائل الإعلام الاجتماعية مثل فيسبوك.

ممارسات تمييزية

حتى بدون التنظيم الحكومي للمحتوى، اتخذت شركات التكنولوجيا نفسها خطوات لمعالجة التحيز على منصاتها. بعد تحدي قانوني ضد شركة Airbnb لخدمة التأجير – أثاره رجل أمريكي من أصل أفريقي نفى عمليات الحجز من قبل المالك على أساس العرق – مما أدى إلى تمحيص من قبل المستهلكين، حيث أقلع هاشتاغ #AirbnbWhileBlack على وسائل الإعلام الاجتماعية – حيث اعتمدت منصة خدمة التأجير سياسة تتطلب أن على المستخدمين “الامتثال للقوانين واللوائح المحلية، بما في ذلك القوانين الفيدرالية لمكافحة التمييز.

في اجتماع الطاولة المستديرة، لاحظت الدكتورة نوبل وزميلتها في جامعة كاليفورنيا، الدكتورة سارة روبرتس، أن القوى العاملة العالمية التي تدعم قطاع التكنولوجيا تشمل أولئك الذين يعملون على اعتدال المحتوى – وأن قوى العمل الرقمية هذه هي “قائمة على تطبيق القيم”، ولكن المعايير التي تستخدمها لتحديد المحتوى الذي سينشر غير شفاف دائمًا. خطوة واحدة في الاتجاه الصحيح لتشكيل كل من القيم وتكوين القوى العاملة الرقمية هو تشكيل قطاع التكنولوجيا من خلال البرامج، مثل قانون الفتيات السود وقانون البنات. كما أن زيادة تعليم العلوم والتكنولوجيا والهندسة والرياضيات للنساء والفتيات أمر بالغ الأهمية، ليس فقط لتوسيع الفرص لنصف العالم، ولكن أيضا لتنمية الاقتصادات، لا سيما في البلدان الناشئة. تقول نوبل في كتابها، إن تحميل المسؤولية عن الممارسات التمييزية الحالية على المجتمعات المهمشة لا يخلو من المشاكل الخاصة، لكن معالجة النظام البيئي للتحديات تتطلب استثمارات في المجتمعات المحرومة، والسياسة العامة، والمزيد من الأبحاث حول دور الإعلام الرقمي، وإلى منصات لدعم أو قمع الديمقراطية والمساواة الاجتماعية.

خاص “شبكة المرأة السورية”

المصدر

https://www.cfr.org/blog/gender-bias-inside-digital-revolution-digital-human-rights