حتى الخوارزميات متحيزة ضد السود - عبده حقي

من أغلى مقتنياتي قيمة هو كتاب "فن برمجة الكمبيوتر" للكاتب دونالد كنوث عالم الكمبيوتر الذي ربما تكون كلمة "أسطوري" قد صيغت له حصريا. بطريقة ما يمكن للمرء أن يفكر في أن أعظم ما لديه في علوم الكمبيوتر هو ما حققه راسل ووايتهيد في كتابه "مبادئ الرياضيات" للرياضيات - أي للعودة إلى أساسيات المجال والتحقق من عناصره الأساسية.

في علوم الكمبيوتر أحد هذه العناصر التأسيسية هو الخوارزمية - وهي مجموعة متكاملة من العمليات خطوة بعد أخرى يتم إجراؤها ، عادةً بواسطة الكمبيوتر. تشبه الخوارزميات إلى حد ما الوصفات التي نستخدمها في الطهي لكنها تحتاج إلى أن تكون أكثر دقة بكثير لأنه يجب تنفيذها بواسطة أجهزة "غبية" ذات تفكير حرفي تسمى أجهزة الكمبيوتر.

الخوارزميات هي اللبنات الأساسية لجميع برامج الكمبيوتر. هل هي محدودة (أي تنتهي بعد عدد محدود من الخطوات)؟ هل كل خطوة محددة بدقة؟ ما هي مدخلاتها ومخرجاتها؟ وهل الخوارزمية فعالة؟ ومع ذلك ، هناك سؤال واحد لم يطرحه كنوث أبدًا عن الخوارزمية في عملية المسح الواسعة لاستقصائه الحكيم : ما هي آثارها الأخلاقية؟

بالمناسبة هذا ليس انتقادًا. لم تكن مثل هذه الأسئلة ذات صلة بمشروعه والذي كان يهدف إلى وضع علوم الكمبيوتر على أساس متين. إلى جانب ذلك كان يكتب في الستينيات عندما لم تكن فكرة أن أجهزة الكمبيوتر قد تكون لها تأثيرات اجتماعية واقتصادية وسياسية عميقة على رادار أي شخص. إن التفكير في أننا سوف نعيش يومًا ما في "مجتمع معلومات" الذي سيعتمد بشكل شامل على أجهزة الكمبيوتر كان سيبدو خياليًا لمعظم الناس.

لكن هذا المجتمع قد حدث اليوم وفجأة اتخذت الخوارزميات التي تشكل اللبنات الأساسية لهذا العالم أهمية جديدة لأنها بدأت في اكتساب القوة في حياتنا اليومية. فهي التي تحدد ما إذا كان بإمكاننا الحصول على قرض مصرفي أو رهن عقاري وبأي شروط على سبيل المثال ؛ ما إذا كانت أسماؤنا مدرجة في قوائم حظر الطيران ؛ وما إذا كان رجال الشرطة المحليين يعتبرون أحدهم مجرمًا محتملًا أم لا.

دعونا نأخذ مثالاً واحداً فقط يستخدم القضاة وقوات الشرطة وضباط الإفراج المشروط في جميع أنحاء الولايات المتحدة الآن برنامج كمبيوتر لتقرير ما إذا كان من المحتمل أن يرتكب المتهم جناية جديدة أم لا. الفكرة الأساسية هي أن الخوارزمية من المرجح أن تكون أكثر "موضوعية" ومتسقة مع الحكم الذاتي للمسؤولين البشر. الخوارزمية المعنية هنا تسمى كومباس وهي (ملف تعريف إدارة مرتكبي الجرائم الإصلاحية للعقوبات البديلة). عندما يتم حجز المتهمين في السجن فإنهم يردون على استبيان كومباس ويتم إدرج إجاباتهم في البرنامج لتوليد تنبؤات "بخطر العودة إلى الإجرام" و "خطر العودة إلى الإجرام العنيف".

اتضح بعد ذلك أن الخوارزمية جيدة إلى حد ما في التنبؤ بالعودة إلى الإجرام وأقل جودة في التنبؤ بالتنوع العنيف. حتى الآن جيدة جدا. لكن هل نخمن ماذا ؟ الخوارزمية ليست لعمى الألوان. كان المدعى عليهم المواطنون السود الذين لم يرتكبون جرائمهم مرة أخرى خلال فترة عامين أكثر عرضة للخطأ في التصنيف مرتين تقريبًا على أنهم أعلى خطورة مقارنة بنظرائهم البيض ؛ تم تصنيف المدعى عليهم البيض الذين عادوا إلى الإجرام في غضون العامين المقبلين عن طريق الخطأ على أنهم منخفضو المخاطر تقريبًا ضعف معدل المجرمين السود.

نحن نعلم هذا فقط لأن موقع برو بوبليكا  الإلكتروني قام بعمل تحقيقي رائع. من خلال طلب حرية المعلومات حصل الصحفيون على درجات كومباس لما يقرب من 12000 مجرم في فلوريدا ثم قاموا بتكوين ملف تعريف للتاريخ الإجرامي لكل فرد قبل وبعد تسجيلهم. كانت نتائج التحليل واضحة جدا. إذا كنت من ذوي البشرة السوداء فإن فرص الحكم عليك كعائد محتمل تكون أعلى بكثير مما لو كنت أبيض البشرة . وبالتالي فإن تلك التنبؤات الخوارزمية لا تدعمها الأدلة.

قد يقول المتشائمون إن هذا ليس مفاجئًا: فالعنصرية تمر عبر نظام العدالة في الولايات المتحدة مثل الرسالة في عصا صخرة. يمكن لواحد من كل ثلاثة رجال من السود أن يتوقع أن يكون مسجونًا في حياته (مقارنة بواحد من كل ستة من اللاتينيين وواحد من كل 17 من البيض). يجب أن يكون هذا حجة لإجراء التقييمات والتنبؤات باستخدام خوارزمية بدلاً من المسؤولين الذين قد يكونون متحيزين. ومع ذلك ، يشير تحليل نظام كومباس إلى أنه حتى الآلة لديها تحيز عنصري.

إن اللغز الكبير هو كيف يتسلل التحيز إلى الخوارزمية. قد نكون قادرين على فهم كيفية فحصها. لكن معظم هذه الخوارزميات سرية لذا فهي مثل "صناديق سوداء" بشكل فعال - آلات افتراضية تكون أعمالها مبهمة. وبالتالي فإن البرامج الموجودة بداخلها كتبها أشخاص ، ربما لم يكن معظمهم على دراية بأن عملهم الآن له بُعد أخلاقي مهم للغاية . ربما ينبغي أن يكون كتاب البروفيسور كنوث القادم هو "أخلاقيات برمجة الكمبيوتر".

Even algorithms are biased against black men

Posted in: مقالاتـ ـ نقد