قراءة في كتاب صفية أوموجا نوبل "خوارزميات القمع: عبده حقي

في كتابها "خوارزميات القمع: كيف تُعزز محركات البحث العنصرية"، تُقدم صفية أوموجا نوبل نقدًا قويًا وضروريًا لكيفية إعادة إنتاج الأنظمة التكنولوجية، التي يُفترض أنها محايدة، للفوارق الاجتماعية وتعزيزها - وخاصة تلك المتجذرة في العرق والجنس.

انطلاقًا من خلفيتها في علوم المكتبات والمعلومات، تبحث نوبل في كيف أن محركات البحث، مثل جوجل، والتي غالبًا ما يُفترض أنها موضوعية وغير متحيزة، تعكس في الواقع قيم المجتمعات التي تُنشأ فيها وتُرسخها - قيم غالبًا ما تكون غارقة في العنصرية والتمييز على أساس الجنس والرأسمالية.

تتمحور أطروحة نوبل حول أن الخوارزميات ليست محايدة. فعلى عكس الاعتقاد السائد بأن محركات البحث مجرد أدوات لتنظيم المعلومات بناءً على أهميتها وشعبيتها، تُجادل نوبل بأنها متأصلة في تحيزات مصمميها، والشركات التي تُديرها، والمجتمعات التي تعمل فيها. ويتضح هذا جليًا عندما تكشف كيف ربطت ميزات الإكمال التلقائي والبحث عن الصور في جوجل مصطلحات مثل "الفتيات السود" تاريخيًا بمحتوى جنسي أو إباحي.

إن هذه النتائج ليست عشوائية، بل هي أعراض لمشاكل نظامية أعمق تُصر نوبل على ضرورة مواجهتها.

تكمن إحدى نقاط قوة عمل نوبل في استخدامها لأمثلة ملموسة، وغالبًا ما تكون صادمة. فهي تناقش، على سبيل المثال، كيف أن البحث البسيط عن "الفتيات السود" على جوجل كان يُسفر في السابق عن محتوى مُهين وإباحي، بينما غالبًا ما كانت نتائج البحث المُماثلة عن "الفتيات البيض" تُعطي نتائج أكثر اعتدالًا أو نفعًا.

هذه التفاوتات ليست مجرد أخطاء تقنية، بل هي نتاج خوارزميات مُدربة على بيانات تُشكلها التحيزات المجتمعية وحوافز السوق. في نظام رأسمالي تُحرك فيه الأرباح المنصات الرقمية، غالبًا ما يتصدر المحتوى الأكثر إثارةً للنقرات والأكثر استفزازًا نتائج البحث، بغض النظر عن دقته أو آثاره الأخلاقية.

تتجاوز نوبل نقدها نتائج البحث العرقية. فهي تدرس كيفية تأثير الخوارزميات على مجموعة واسعة من المجتمعات والسياقات، بدءًا من الطريقة التي تُشوّه بها محركات البحث المعلومات المتعلقة بالفئات المهمشة، وصولًا إلى كيفية تأثيرها على فرص الناس وسمعتهم وحتى سلامتهم. ومن الأمثلة المقلقة بشكل خاص قضية ديلان روف، العنصري الأبيض الذي قتل تسعة أمريكيين من أصل أفريقي في كنيسة تشارلستون عام 2015. تُشير نوبل إلى أن تطرف روف قد تأثر جزئيًا بنتائج البحث التي صادفها عند البحث عن "جرائم السود ضد البيض"، والتي قادته إلى دوامة من المعلومات المضللة العنصرية. يُظهر هذا مدى خطورة التحيز الخوارزمي عندما يتقاطع مع العنف في العالم الواقعي.

ينتقد جزء كبير من الكتاب أيضًا أيديولوجية "الحلول التكنولوجية" - الاعتقاد بأن التقنيات الرقمية قادرة على حل جميع المشاكل الاجتماعية. تُحذّر نوبل من أنه بدون دراسة نقدية للقيم المُضمنة في هذه الأدوات، فإننا نُخاطر بخلق تقنيات تُفاقم المشاكل ذاتها التي تدّعي مُعالجتها. يدعو كتابها إلى فهم عام أعمق لكيفية عمل مُحركات البحث، وإلى تطوير أطر أخلاقية تُركّز على الإنصاف والعدالة في التصميم التكنولوجي.

ومن الجوانب المُلفتة الأخرى في كتاب "خوارزميات القمع" إصرار نوبل على استحالة فصل العالم الرقمي عن الظروف المادية للمجتمع. فالعنصرية والتمييز الجنسي ليسا مُجرد مُشكلتين "خارج الإنترنت" - بل هما مُترسّختان في البنية التحتية للويب. تُشير نوبل إلى أن وادي السيليكون لا يزال يُشكّل فيه البيض والذكور أغلبية ساحقة، وأن هذا التجانس الديموغرافي يُساهم في وجود نقاط ضعف وتحيزات منهجية في تصميم الخوارزميات. كما تُؤكّد على أن هذه المنصات غالبًا ما تُفلت من التنظيم تحت ستار كونها شركات خاصة، على الرغم من أنها تعمل كحُرّاسٍ مُتنفذين على المعرفة العامة.

تتجلى الصرامة الأكاديمية للكتاب في جميع جوانبه. تستقي نوبل من مجموعة مُتنوعة من المصادر، بما في ذلك علم المعلومات، والفكر النسوي الأسود، ودراسات الإعلام. ومع ذلك، فقد نجحت في إبقاء الكتاب في متناول عامة القراء، متجنبةً المصطلحات المفرطة مع الحفاظ على العمق. يُعدّ هذا السهولة في الوصول أحد أهم إنجازات الكتاب، إذ يُسلّط الضوء على موضوع مُعقّد وعاجل في النقاش العام، مما يجعله ذا صلة ليس فقط بالباحثين، بل بكل من يستخدم الإنترنت.

على الرغم من نقاط قوته العديدة، قال بعض النقاد بأن كتاب نوبل قد يستفيد من استكشاف أكثر تفصيلاً لكيفية ظهور الإصلاح الخوارزمي عمليًا. فبينما تُشخّص المشاكل تشخيصًا دقيقًا، غالبًا ما تُشير إلى الحلول بدلًا من تطويرها بعمق. ومع ذلك، يبدو أن نية نوبل لا تتمحور حول تقديم مخطط تقني بقدر ما تتمحور حول إثارة وعي نقدي قد يُفضي إلى تغيير مجتمعي أوسع. دعوتها لمزيد من الشفافية والمساءلة العامة

لا تزال المشاركة الشاملة في تطوير التكنولوجيا مساهمة حيوية.

ختامًا، يُعد كتاب "خوارزميات القمع" كتابًا رائدًا وضروريًا، يحثّ القراء على إعادة النظر في افتراضاتهم حول التكنولوجيا والمعلومات حيث تكشف صفية أوموجا نوبل عن التحيزات الخفية في العالم الرقمي، وتؤكد على أننا لا نستطيع أن نتحمل أن نكون مستخدمين سلبيين للتكنولوجيا. ومع استمرار الإنترنت في تشكيل حياتنا ومجتمعاتنا، يُذكرنا عمل نوبل بضرورة أن نكون يقظين، مُلِمّين، وناقدين - لأن حتى الخوارزميات قد تكون أدوات للقمع.

Posted in: مقالات نقد