أصبحت أخشى من شيء واحد أكثر من الذكاء الاصطناعي نفسه: أن نسمح للشركات التي تصنعه بأن تكتب قواعد اللعبة وحدها، وأن تظل الحكومات تتفرج من مقاعد المتأخرين، ثم تستيقظ بعد سنوات لتكتشف أن الخوارزميات سبقتها إلى المدارس والمستشفيات والبنوك والإدارات والمحاكم والأسواق ووسائل الإعلام. المشكلة بالنسبة إلي لم تعد تقنية، بل أصبحت مشكلة سلطة. من يملك البيانات؟ من يملك النماذج؟ من يحدد ما الذي يمكن للآلة أن تفعله؟ ومن يستطيع أن يقول لشركة تكنولوجية عملاقة: توقفي، لقد تجاوزت الحدود؟
ما يزعجني في المشهد الحالي هو هذا التفاوت الهائل بين سرعة الشركات وبطء الحكومات. الشركات تطلق نماذج جديدة في أشهر، وأحيانا في أسابيع، بينما تحتاج التشريعات إلى سنوات من اللجان والمشاورات والمساطر. والنتيجة أن المواطن يدخل إلى عصر جديد بأدوات قانونية تنتمي إلى عصر سابق. الشركات تختبر، وتجمع البيانات، وتوسع الأسواق، وتفرض عادات رقمية جديدة، بينما الحكومات ما تزال في كثير من الأحيان تناقش التعريفات والمصطلحات. وهذا التأخر ليس بريئا دائما، لأنه يمنح الشركات مساحة ذهبية لتكريس وجودها قبل وصول الرقابة.
أنا لا أقتنع كثيرا بالخطابات الأخلاقية الجميلة التي تصدرها شركات التكنولوجيا عن المسؤولية والشفافية والسلامة. هذه الشركات ليست جمعيات خيرية، بل كيانات اقتصادية هائلة تتنافس على السوق والبيانات والنفوذ والاستثمار. ومن الخطأ أن نطلب منها وحدها أن تحدد لنا ما هو الاستخدام الأخلاقي لمنتجاتها. الشركة التي قد تخسر مليارات بسبب تأجيل إطلاق نموذج جديد لا يمكن أن تكون الجهة الوحيدة التي تقرر إن كان هذا النموذج آمنا أم لا. تضارب المصالح واضح، ومع ذلك يتصرف العالم أحيانا كما لو أن الوعود الطوعية تكفي.
أنا أرفض أن يتحول المجتمع إلى مختبر مجاني للشركات. إذا أرادت مؤسسة تكنولوجية إطلاق نظام قادر على التأثير في التعليم أو الصحة أو التوظيف أو المال أو الأمن، فعليها أن تثبت أولا أنه اجتاز اختبارات مستقلة صارمة. لا يكفي أن تعرض علينا تقاريرها الداخلية ولا أن تقول إن نظامها خضع لاختبارات السلامة. من اختبره؟ وفق أي معايير؟ من دفع تكاليف الاختبار؟ وهل يستطيع المدقق أن يعلن أن النظام خطر من دون أن يخشى خسارة العقد؟ هذه أسئلة يجب أن تصبح جزءا من أي قانون جاد.
أرى أن أول ما يجب أن تفعله الحكومات هو التوقف عن التعامل مع الذكاء الاصطناعي كموضوع علاقات عامة. المؤتمرات والشعارات والاستراتيجيات الوطنية جميلة، لكنها لا تحمي مواطنا رفضته خوارزمية توظيف، ولا مريضا أخطأ نظام في تقدير حالته، ولا أسرة تضررت بسبب قرار آلي غامض. نحن نحتاج إلى قانون واضح، وهيئة مستقلة، وعقوبات، ومساطر للطعن والتعويض. من دون ذلك سنظل نمارس الحوكمة بالبلاغات بينما تمارس الشركات السلطة بالخوارزميات.
وأعتقد أن التشريع يجب أن يبدأ من مبدأ بسيط: لا ذكاء اصطناعيا بلا مسؤول بشري واضح. لا أريد أن أسمع مؤسسة تقول إن القرار اتخذه النظام. النظام لا يتحمل المسؤولية القانونية ولا الأخلاقية. وراء كل خوارزمية مطور وشركة ومؤسسة ومستخدم مهني. يجب أن نعرف من صمم، ومن باع، ومن شغّل، ومن وافق، ومن تجاهل التحذيرات. وإذا وقع الضرر فلا بد أن نجد اسما وكيانا يمكن مساءلته.
كما أرى أن الحكومات يجب أن تضع تصنيفا صارما للمخاطر. لا معنى لأن تعامل أداة لترتيب الصور بالطريقة نفسها التي تعامل بها نظاما يحدد استحقاق المواطن لمساعدة اجتماعية أو قرض أو وظيفة. بعض الأنظمة تحتاج فقط إلى شفافية، وبعضها يحتاج إلى تقييمات دورية، وبعضها يجب ألا يعمل إلا بعد ترخيص واختبار مستقل، وبعض الاستخدامات يجب حظرها تماما إذا كانت تهدد الحقوق الأساسية أو تستغل الهشاشة النفسية أو الاجتماعية.
وأنا مع إنشاء سجل وطني علني للأنظمة عالية الخطورة. من حقي كمواطن أن أعرف أن إدارة عمومية أو بنكا أو شركة تأمين أو مؤسسة تعليمية تستخدم نظاما آليا يؤثر في قراراتها. ومن حقي أن أعرف من طوره، ولأي غرض، ومتى خضع لآخر تدقيق، وما المخاطر المعروفة المرتبطة به. السرية التجارية لا ينبغي أن تصبح ستارا لإخفاء القرارات التي تمس الناس.
أما الحديث عن حماية المستهلك فيجب أن ينتقل من النصوص العامة إلى حقوق عملية. يجب أن يكون من حق المواطن أن يعرف متى يتعامل مع آلة، وأن يطلب تفسيرا مفهوما، وأن يعترض على قرار آلي، وأن يطلب مراجعة بشرية، وأن يصحح بياناته، وأن يحصل على تعويض إذا ثبت الضرر. إذا لم نمنح المواطن هذه الحقوق فسوف ننتقل تدريجيا إلى مجتمع تطلب فيه الآلة منك أن تثبت براءتك أمامها، بينما لا تستطيع أنت حتى معرفة المنطق الذي حكم عليك.
وأرى أن الأطفال يجب أن يكونوا خطا أحمر. لا يمكن أن نسمح للشركات باستخدام أنظمة مصممة لإبقاء الطفل أطول وقت ممكن أمام الشاشة، أو دفعه إلى التفاعل المستمر، أو استخراج المزيد من بياناته، ثم نسمي ذلك ابتكارا. بعض ما يسمى تصميم تجربة المستخدم ليس سوى هندسة متقدمة لجذب الانتباه. وإذا دخل الذكاء الاصطناعي إلى هذا المجال من دون رقابة صارمة، فإن الخطر لن يكون تقنيا فقط، بل تربويا ونفسيا واجتماعيا.
وأعتبر أن الحكومات التي تستخدم الذكاء الاصطناعي يجب أن تخضع لقواعد أشد من الشركات. السلطة العامة ليست مستخدما عاديا. عندما تستعمل الدولة الخوارزميات في الضرائب أو الدعم الاجتماعي أو الأمن أو التعليم أو التوظيف، فإنها تستعمل قوة يمكن أن تغير حياة الناس. لذلك لا يجوز أن يكون أي نظام حكومي عالي التأثير خارج التدقيق العام. الدولة لا تستطيع أن تطالب الشركات بالشفافية ثم تختبئ هي خلف السرية.
أكثر ما يثير استغرابي هو أن بعض الحكومات تبدو مفتونة بفكرة السرعة. تريد أن تقول إنها دخلت عصر الذكاء الاصطناعي، وأنها أطلقت منصة ذكية أو إدارة ذكية أو مدينة ذكية، لكن السؤال الذي لا يطرح بما يكفي هو: هل هذه الأنظمة عادلة؟ هل يمكن مراجعتها؟ هل اختبرت ضد التحيز؟ هل توجد آلية واضحة للشكاوى؟ الذكاء لا يقاس بعدد الخوارزميات التي نشتريها، بل بقدرتنا على منعها من أن تتحول إلى ظلم آلي.
الشركات بدورها يجب أن تتحمل كلفة المخاطر التي تخلقها. لا أرى سببا يجعل الأرباح خاصة والخسائر عامة. إذا كانت شركة تطور نظاما يمكن أن يسبب أضرارا مالية أو صحية أو اجتماعية كبيرة، فيجب أن تكون لديها تغطية تأمينية، وربما مساهمة في صندوق لتعويض الضحايا. من غير المقبول أن تحقق شركة مليارات ثم تترك المتضرر يواجه وحده سنوات من التقاضي لإثبات أن الخوارزمية أخطأت في حقه.
وأرى أيضا أن العقوبات يجب أن تكون مؤلمة بما يكفي لتغيير السلوك. الغرامة الصغيرة بالنسبة لشركة عملاقة ليست عقوبة، بل مصروف تشغيل. يجب أن ترتبط العقوبات بحجم الأعمال، وأن تشمل تعليق النظام ومنع استخدامه وسحب الترخيص في الحالات الخطيرة. وإذا أخفت الشركة حادثا أو زورت نتائج اختبار أو قللت عمدا من المخاطر، فإن الأمر يجب أن يعامل باعتباره إخلالا جسيما لا مجرد خطأ إداري.
كما أنني لا أقبل بأن تختبئ الشركات وراء تعقيد التكنولوجيا. عبارة "النظام معقد ولا يمكن تفسيره بالكامل" لا يجب أن تتحول إلى حصانة قانونية. إذا كان النظام معقدا إلى درجة أن الشركة نفسها لا تستطيع تفسير نتائجه ولا ضمان سلوكه، فالسؤال المنطقي هو: لماذا نسمح له أصلا باتخاذ قرارات عالية التأثير؟ التعقيد التقني لا يمكن أن يصبح مبررا لإلغاء المسؤولية.
وأرى أن الرقابة يجب أن تستمر بعد إطلاق النظام، لأن الخطر لا ينتهي عند باب السوق. النماذج تتغير بالتحديثات، والبيانات تتغير، وسلوك المستخدمين يتغير، وقد تظهر مخاطر لم تكن معروفة في البداية. لذلك نحتاج إلى مراقبة مستمرة، وإلى إلزام الشركات بالإبلاغ السريع عن الحوادث الخطيرة. لا ينبغي أن يكون خيار الإفصاح عن مشكلة خطيرة مسألة تقدير داخلي للعلاقات العامة.
ولا أريد أن يتحول هذا الموقف إلى حرب ضد الابتكار. الابتكار ضروري، والذكاء الاصطناعي يحمل إمكانات هائلة في الطب والتعليم والبحث والصناعة والخدمات. لكن الابتكار الذي لا يخضع للمساءلة ليس تقدما، بل مقامرة. يمكن للحكومات أن توفر مختبرات تنظيمية ومساحات تجريبية للشركات الناشئة، لكنها يجب أن تضع حدودا واضحة: جرّبوا، ابتكروا، طوروا، لكن لا تستخدموا المجتمع كله حقل اختبار مفتوحا.
وأرى أن أكبر خطأ يمكن أن ترتكبه الحكومات هو الاعتقاد أن لديها متسعا من الوقت. الشركات لا تنتظر، والسوق لا ينتظر، والذكاء الاصطناعي لا ينتظر. وكل سنة من التأخير التشريعي تعني مزيدا من الاعتماد على أنظمة لم تكتب لها قواعد واضحة بعد. وبعد أن تتغلغل هذه الأنظمة في الاقتصاد والإدارة والحياة اليومية يصبح تنظيمها أصعب بكثير، لأن الاعتماد عليها يتحول إلى واقع يصعب التراجع عنه.
لهذا أعتقد أن المعركة الحقيقية ليست بين الإنسان والآلة، بل بين المجتمع وبين تركيز السلطة الرقمية في أيدي قلة من الشركات من دون رقابة كافية. المشكلة ليست أن الذكاء الاصطناعي قوي، بل أن هذه القوة قد تصبح محتكرة، غامضة، وغير خاضعة للمساءلة. وإذا لم تتحرك الحكومات بسرعة وصرامة، فإنها قد تجد نفسها بعد سنوات تفاوض شركات تكنولوجية أصبحت أقوى من بعض المؤسسات العامة في المعلومات والبيانات والتأثير.
أنا لا أريد مستقبلا تمنحنا فيه الشركات التكنولوجيا ثم تمنحنا معها قواعد استخدامها. ولا أريد حكومات تكتفي بالتصفيق للابتكار بينما تتأخر عن حماية مواطنيها. أريد عقدا جديدا يحدد بوضوح من يملك الحق في التطوير، ومن يملك سلطة الرقابة، ومن يتحمل الضرر، ومن يستطيع أن يقول للخوارزمية وللشركة التي تقف خلفها: هنا تتوقف حدودك.
المستقبل الرقمي لا يجب أن يكون جمهورية للخوارزميات ولا إمبراطورية للشركات التكنولوجية. يجب أن يبقى فضاء تحكمه القوانين والحقوق والرقابة الديمقراطية. وإذا كنا جادين فعلا في الحديث عن ذكاء اصطناعي مسؤول، فعلينا أن نبدأ من الحقيقة التي لا تحب بعض الشركات سماعها ولا تحب بعض الحكومات الاعتراف بها: التكنولوجيا التي لا يمكن مساءلة صانعها ليست تقدما آمنا، والحكومة التي تصل دائما بعد وقوع الضرر ليست جهة تنظيمية، بل شاهد متأخر على ما حدث.
0 التعليقات:
إرسال تعليق