الصندوق الأسود للحوكمة الخوارزمية في المغرب: عبده حقي

 

لجأت الحكومات والقطاع الخاص في جميع أنحاء العالم بشكل متزايد إلى الخوارزميات والأنظمة الآلية لإدارة الخدمات العامة، وتعزيز الكفاءة الإدارية، وتحسين عمليات صنع القرارات. ويتجلى هذا بشكل خاص في مجال الحوكمة، حيث تُستخدم الخوارزميات لتبسيط العمليات، وتفعيل القوانين، وتقديم الخدمات العامة. ومع ذلك، مع صعود الحوكمة الخوارزمية، يبرز قلق كبير بشأن الشفافية والمساءلة وآثار هذه الأنظمة على الحريات المدنية، وخاصة في البلدان حيث العمليات الديمقراطية والشفافية ماتزال موضع نزاع .

تشير الحوكمة الخوارزمية إلى استخدام الخوارزميات ــ أدوات اتخاذ القرار الآلية القائمة على البيانات ــ للتأثير على عمليات الحوكمة أو التحكم فيها. ويمكن أن تتراوح هذه العمليات من أتمتة المهام البيروقراطية مثل معالجة الإقرارات الضريبية إلى اتخاذ القرارات في تنفيذ القانون والمراقبة وتقديم الخدمات العامة. وتكمن جاذبية الخوارزميات في كفاءتها وحيادها المفترض. ومن خلال تنحية التحيز البشري ، تستطيع الحكومات نظريا تقديم الخدمات بشكل أكثر فعالية، والحد من الفساد، وخفض التكاليف التشغيلية. ومع ذلك، فإن صعود الحوكمة الخوارزمية يطرح أيضا ظاهرة يشار إليها غالبا بمفهوم "الصندوق الأسود".

في سياق الحوكمة، تشير مشكلة "الصندوق الأسود" إلى غموض الأنظمة الخوارزمية، حيث لا يتم فهم العمليات الكامنة وراء اتخاذ القرار بشكل كامل، حتى من قبل أولئك الذين ينشرونها. غالبًا ما تكون الخوارزميات مملوكة، ويتم إخفاء عملها عن التدقيق والفحص العام. يمكن أن يؤدي هذا الافتقار إلى الشفافية إلى اتخاذ قرارات يصعب الطعن فيها أو استئنافها، مما يخلق إمكانية إساءة الاستخدام وإساءة استخدام السلطة وانهيار الحريات المدنية.

لقد شرعت المملكة المغربية في رحلتها الخاصة نحو التحول الرقمي. وعلى مدى العقد الماضي، تبنت الحكومة العديد من المبادرات الرقمية لتحديث بيروقراطيتها وتحسين تقديم الخدمات العامة. وكانت خطة المغرب الرقمي 2020 حجر الزاوية في هذا الجهد، بهدف تسخير إمكانات التقنيات الرقمية لتعزيز النمو الاقتصادي وتحسين كفاءة الحوكمة.

وفي هذا السياق، شقت الحوكمة الخوارزمية طريقها إلى العديد من القطاعات، بما في ذلك الصحة العامة والتعليم والتخطيط الحضري. ويعد استخدام الخوارزميات لتحسين التنقل الحضري، وتحسين إدارة المرور في مدن مثل الدار البيضاء، ورقمنة الخدمات الإدارية، كلها أمثلة على طموح المغرب لتبني الأدوات الرقمية. ومع ذلك، فإن هذا الاعتماد المتزايد على الخوارزميات يثير أيضًا مخاوف بشأن شفافية ونزاهة هذه الأنظمة.

ورغم أن الحكومة المغربية قطعت أشواط كبيرة نحو التحول الرقمي، فإن الغموض المحيط باستخدامها للخوارزميات في الحوكمة يفرض مجموعة من التحديات التي تتفاقم بسبب السياق السياسي والقانوني الأوسع ، حيث كانت حرية التعبير والشفافية والمساءلة مقيدة تاريخيا.

إن أحد المخاوف الأساسية المتعلقة بالحوكمة الخوارزمية في المغرب هو الافتقار إلى الشفافية في كيفية عمل هذه الأنظمة. على سبيل المثال، غالبًا ما يتم تطوير الخوارزميات المستخدمة في اتخاذ القرارات في القطاع العام - سواء في تحصيل الضرائب أو إدارة المناطق الحضرية أو تخصيص الموارد العامة - من قبل شركات التكنولوجيا الخاصة. إن هذه الأنظمة مملوكة للقطاع الخاص، ولا يتم الكشف عن منطقها الداخلي للجمهور أو حتى المسؤولين الحكوميين الذين ينشرونها. وهذا يخلق حالة حيث يتم اتخاذ القرارات دون أن يكون لدى الجمهور أو مستخدمي الخوارزمية فكرة عن كيفية التوصل إلى هذه القرارات.

وفي بلد مثل المغرب، حيث الثقة في المؤسسات العامة تشكو من الهشاشة ، فإن غموض الحوكمة الخوارزمية يؤدي إلى تفاقم المخاوف بشأن العدالة والمساءلة. إن طبيعة الصندوق الأسود لهذه الأنظمة تحد من قدرة المواطنين على الطعن في القرارات التي تتخذها الحكومة أو التشكيك فيها، مما يخلق فعليًا حاجزًا بين المحكومين والحاكمين.

إن الأنظمة الخوارزمية، رغم أنها غالبًا ما تُعتبر محايدة، قد تؤدي إلى إدامة التحيزات القائمة أو حتى تفاقمها. وهذا أمر مثير للقلق بشكل خاص في المغرب، حيث تتجلى التفاوتات الاجتماعية والانقسامات العرقية والفوارق بين المناطق الريفية والحضرية بشكل واضح. ويمكن أن تؤدي الخوارزميات المدربة على بيانات متحيزة إلى نتائج تمييزية، وخاصة بالنسبة للمجتمعات المهمشة.

على سبيل المثال، إذا تم تدريب خوارزميات تنفيذ القانون أو الرعاية الاجتماعية على بيانات تعكس عدم المساواة أو التحيزات التاريخية، فقد تستهدف هذه الأنظمة بشكل غير متناسب مجموعات أو مجتمعات معينة للمراقبة أو تحرمها من الوصول إلى الخدمات. ويعني غموض هذه الأنظمة أن المواطنين لديهم القليل من الموارد للتساؤل أو الطعن في هذه القرارات، مما يزيد من ترسيخ ديناميكيات القوة القائمة.

ومن الجوانب الحاسمة الأخرى للحوكمة الخوارزمية قدرتها على المراقبة الجماعية. ففي السنوات الأخيرة، استثمرت المغرب في تقنيات المراقبة المتطورة، بما في ذلك أدوات التعرف على الوجه واستخراج البيانات. وكثيراً ما تعمل هذه الأنظمة بخوارزميات تجمع وتحلل كميات هائلة من البيانات لمراقبة أنشطة المواطنين، سواء على الإنترنت أو خارجها.

والقلق هنا مزدوج: أولاً، هناك نقص في الشفافية في كيفية عمل أنظمة المراقبة هذه ومن لديه حق الوصول إلى البيانات التي تجمعها. وثانياً، هناك أطر قانونية محدودة لحماية خصوصية المواطنين وتنظيم استخدام هذه التقنيات. وفي غياب آليات الرقابة الواضحة، هناك خطر يتمثل في إمكانية استخدام الحوكمة الخوارزمية في المغرب لقمع المعارضة وقمع الحريات المدنية، وخاصة في بلد حيث تخضع المعارضة السياسية وحرية التعبير لرقابة مشددة بالفعل.

إن إحدى القضايا المهمة المتعلقة بالحوكمة الخوارزمية هي صعوبة محاسبة الأنظمة. ففي المغرب، كما هو الحال في العديد من البلدان الأخرى، هناك نقص في الأطر القانونية الواضحة التي تحكم استخدام الخوارزميات في صنع القرار العام. وهذا الافتقار إلى الرقابة التنظيمية يجعل من الصعب على المواطنين طلب الإنصاف عندما يشعرون بأنهم تعرضوا للظلم بسبب قرار خوارزمي.

في هياكل الحكم التقليدية، يمكن للمواطنين الطعن في القرارات من خلال القنوات القانونية أو البيروقراطية. ومع ذلك، في حالة الحكم الخوارزمي، فإن غموض النظام يعني أنه غالبًا ما يكون من غير الواضح كيف يتم اتخاذ القرارات أو على أي أساس يمكن الطعن فيها. يمكن أن يؤدي هذا الافتقار إلى المساءلة إلى خلق شعور بالعجز بين المواطنين، وخاصة أولئك المهمشين بالفعل داخل المجتمع المغربي.

ولمعالجة التحديات التي يفرضها الصندوق الأسود للحوكمة الخوارزمية في المغرب، يتعين اتخاذ عدة خطوات. أولا، يجب بذل جهود من أجل تحقيق قدر أعظم من الشفافية في تطوير ونشر الخوارزميات المستخدمة في الحوكمة. ويشمل هذا إلزام شركات التكنولوجيا الخاصة بالكشف عن كيفية عمل أنظمتها وتزويد المسؤولين العموميين والمواطنين بالأدوات اللازمة لفهم القرارات الخوارزمية وتحديها.

ثانيا، يتعين على الحكومة أن تنشئ أطرا قانونية قوية تنظم استخدام الخوارزميات في الحوكمة. وينبغي لهذه الأطر أن تتضمن أحكاما لمراجعة الخوارزميات لضمان عدم تحيزها أو تمييزها، وإنشاء آليات لتمكين المواطنين من طلب التعويض عندما يتأثرون سلبا بقرارات خوارزمية.

وأخيرا، يتعين على منظمات المجتمع المدني في المغرب أن تلعب دورا حاسما في الدعوة إلى الشفافية والمساءلة في مجال الحوكمة الرقمية. ومن خلال زيادة الوعي بالمخاطر المرتبطة بالحوكمة الخوارزمية والدفع نحو مزيد من الرقابة، يمكن لهذه المنظمات أن تساعد في ضمان عدم حدوث التحول الرقمي في المغرب على حساب الحريات المدنية والعدالة الاجتماعية.

ورغم أن الحوكمة الخوارزمية تحمل القدرة على تحويل الخدمات العامة وتحسين كفاءة الحوكمة في المغرب، فإن غموض هذه الأنظمة ــ الصندوق الأسود ــ يفرض مخاطر كبيرة على الشفافية والمساءلة والحريات المدنية. ولضمان تحقيق فوائد التحول الرقمي دون تقويض حقوق المواطنين، يتعين على المغرب أن يتخذ خطوات استباقية لمعالجة التحديات التي تفرضها الحوكمة الخوارزمية. ومن خلال تعزيز الشفافية وتنظيم استخدام الخوارزميات وتمكين المجتمع المدني، يمكن للمغرب أن يستغل قوة الأدوات الرقمية مع حماية مبادئ الإنصاف والعدالة.

Posted in: ذكاء إصطناعي, مقالات نقد