قراءة في كتاب "خوارزميات القمع " للكاتبة صفية أوموجا نوبل : عبدو حقي

أصبحت محركات البحث البوابات الأساسية للمعلومات، وتشكل فهمنا للعالم. ومع ذلك، كما توضح الكاتبة صفية أوموجا نوبل في عملها الرائد، *خوارزميات القمع: كيف تعزز محركات البحث العنصرية، فإن هذه المنصات بعيدة كل البعد عن كونها حكامًا محايدين. بدلاً من ذلك، غالبًا ما تعمل على تكريس وتضخيم التحيزات المجتمعية القائمة، وخاصة ضد المجتمعات المهمشة. فما هي الآليات المعقدة التي تعمل بها خوارزميات البحث على تعزيز التحيزات العنصرية والجنسانية، انطلاقا من أبحاث نوبل والخطاب العلمي ذي الصلة.

غالبًا ما يُنظر إلى محركات البحث مثل جوجل على أنها أدوات محايدة تقدم معلومات تستند إلى الصلة الموضوعية. ويستند هذا التصور إلى الاعتقاد بأن الخوارزميات - كونها بنيات رياضية - غير متحيزة بطبيعتها. ومع ذلك، كما تزعم نوبل، فإن هذا تصور خاطئ حيث يتم تصميم الخوارزميات من قبل البشر ويتم تدريبها على بيانات تعكس التحيزات المجتمعية. وبالتالي، يمكنها إعادة إنتاج هذه التحيزات بل وتفاقمها. على سبيل المثال، أسفر البحث عن "الفتيات السود" تاريخيًا عن محتوى مفرط في الجنس ومهين، في حين لم ينتج بحث مماثل عن "الفتيات البيض" مثل هذه النتائج. ويؤكد هذا التفاوت على التحيزات العنصرية المضمنة في خوارزميات البحث.

تفترض نوبل أن التحيزات في نتائج البحث ليست عرضية فحسب، بل تتأثر بالمصالح التجارية. تعمل محركات البحث في النماذج التي تحركها الإعلانات، حيث غالبًا ما تكون الربحية لها الأولوية على الاعتبارات الأخلاقية. يؤدي هذا النموذج إلى تسليع الهويات المهمشة. على سبيل المثال، يمكن إرجاع إضفاء الطابع الجنسي على النساء السود في نتائج البحث إلى ربحية مثل هذا المحتوى في النظام البيئي للإعلان عبر الإنترنت. وبالتالي، يساهم تقاطع الرأسمالية والتكنولوجيا في تعزيز الصور النمطية الضارة. .

إن البيانات هي شريان الحياة للخوارزميات. ومع ذلك، عندما تعكس هذه البيانات التفاوتات التاريخية والنظامية، يمكن للخوارزميات المدربة عليها أن تديم هذه المظالم. على سبيل المثال، وجد أن تقنيات التعرف على الوجه تُظهر معدلات خطأ أعلى للأفراد ذوي درجات لون البشرة الداكنة، مما يؤدي إلى مخاوف بشأن نشرها في مجالات مثل إنفاذ القانون. لا تقتصر هذه المشكلة على محركات البحث ولكنها تمتد إلى تطبيقات الذكاء الاصطناعي المختلفة، مما يسلط الضوء على الطبيعة الشاملة للخوارزميات التحيز

إن التحيزات المضمنة في خوارزميات البحث لها تداعيات مجتمعية بعيدة المدى. فهي تؤثر على التصور العام، وتعزز الصور النمطية، ويمكن أن تؤثر حتى على الفرص المتاحة للمجموعات المهمشة. على سبيل المثال، إذا كانت نتائج البحث تصور الأفراد السود في الغالب في ضوء سلبي، فقد يؤدي ذلك إلى تشكيل المواقف المجتمعية وإدامة التمييز. وعلاوة على ذلك، يمكن أن تؤثر هذه التمثيلات المتحيزة على تصور الأفراد من هذه المجتمعات لأنفسهم، مما يؤدي إلى العنصرية الداخلية وانخفاض احترام الذات

يتطلب معالجة التحيز الخوارزمي نهجًا متعدد الأوجه. أولاً، يجب أن يكون هناك جهد متضافر لتنويع صناعة التكنولوجيا. إن القوة العاملة الأكثر شمولاً يمكن أن تجلب وجهات نظر متنوعة، وهو أمر بالغ الأهمية في تحديد وتخفيف التحيزات. ثانياً، يجب أن يكون هناك قدر أكبر من الشفافية في كيفية عمل الخوارزميات. ويشمل ذلك الكشف عن مصادر البيانات المستخدمة وعمليات صنع القرار المعنية. ثالثًا، يعد التدقيق المستمر للخوارزميات أمرًا ضروريًا لتحديد التحيزات وتنفيذ التدابير التصحيحية. أخيرًا، يجب التركيز على الاعتبارات الأخلاقية في تصميم ونشر الخوارزميات، والتأكد من أنها تخدم الصالح المجتمعي الأوسع بدلاً من المصالح التجارية الضيقة.

الخاتمة

إن كتاب صفية أوموجا نوبل *خوارزميات القمع* يبدو كنداء واضح لفحص التقنيات التي أصبحت جزءًا لا يتجزأ من حياتنا اليومية بشكل نقدي. يتحدى قشرة الحياد التي تغلف محركات البحث ويكشف عن التحيزات العميقة الجذور التي تديمها. بينما نستمر في التنقل في المشهد الرقمي، فمن الضروري أن نظل يقظين وندافع عن الأنظمة التي تعزز المساواة والعدالة. عندها فقط يمكننا أن نأمل لتسخير الإمكانات الكاملة للتكنولوجيا بطريقة ترتقي بجميع أفراد المجتمع.

Posted in: مقالات نقد