فحص نقدي لنقاط ضعف الأمن السيبراني في أنظمة الذكاء الاصطناعي الحديثة: ترجمة عبدو حقي

أشعل الهجوم الإلكتروني الأخير على ديب سيك DeepSeek ، وهي منصة تحليلات مدفوعة بالذكاء الاصطناعي، عاصفة من الجدل حول هشاشة أنظمة الذكاء الاصطناعي في عصر التهديدات الرقمية المتصاعدة. ويؤكد هذا الاختراق، الذي أدى إلى تعريض بيانات المستخدم الحساسة والخوارزميات الملكية للخطر، على حقيقة مرعبة: منصات الذكاء الاصطناعي، التي غالبًا ما يتم الإشادة بها باعتبارها طليعة التقدم التكنولوجي، أصبحت بشكل متزايد أهدافًا عالية القيمة للجهات الخبيثة. ويعمل الحادث كمنظور يمكننا من خلاله فحص نقاط الضعف النظامية المضمنة في أنظمة الذكاء الاصطناعي - نقاط الضعف التي تتطلب اهتمامًا علميًا عاجلاً وإعادة تصور نماذج الأمن السيبراني.

وهم الحصانة في أنظمة الذكاء الاصطناعي

غالبًا ما يتم تسويق منصات الذكاء الاصطناعي مثل ديب سيك على أنها قلاع منيعة للابتكار، حيث تستفيد من التعلم الآلي للتنبؤ بالتهديدات وأتمتة الدفاعات. ومع ذلك، يكشف هذا الحادث عن مفارقة: فالتعقيد ذاته الذي يمكّن الذكاء الاصطناعي يجعله أيضًا عرضة للاستغلال. وكما يحذر بروس شناير في كتابه *انقر هنا لقتل الجميع* (2018)، فإن الأنظمة المترابطة - سواء كانت أجهزة ذكية أو شبكات عصبية - تخلق "سطوح هجوم" تتوسع بشكل كبير مع التقدم التكنولوجي. يوضح خرق ديب سيك، على غرار صانع الأقفال الماهر الذي يستغل خللًا في قبو عالي الأمان، كيف يمكن للجهات الفاعلة المعادية التلاعب باعتماد الذكاء الاصطناعي على خطوط أنابيب البيانات والتكاملات مع جهات خارجية.

وتتردد أصداء السوابق التاريخية لهذه الثغرة. فقد استغل خرق Equifax في عام 2017، الذي كشف عن 147 مليون سجل، واختراق SolarWinds في عام 2020، الذي تسلل إلى وكالات حكومية، كلاهما بنيات البيانات المركزية. وعلى نحو مماثل، زعم أن مهاجمي ديب سيك تسللوا إلى نقاط نهاية واجهة برمجة التطبيقات الخاصة بها، متجاوزين بروتوكولات التشفير لاستخراج مجموعات بيانات التدريب. وتوضح هذه الحوادث مجتمعة نمطًا مزعجًا: فالتقارب بين البيانات الضخمة والذكاء الاصطناعي لا يخفف من المخاطر بطبيعته، بل إنه غالبًا ما يضخمها.

تزدهر أنظمة الذكاء الاصطناعي على مجموعات بيانات ضخمة، ولكن هذا الجوع للمعلومات يخلق اعتمادًا محفوفًا بالمخاطر. فبنية ديب سيك، مثل العديد من منصات الذكاء الاصطناعي، تجمع سلوك المستخدم وسجلات المعاملات والبيانات البيومترية - وهي كنز ثمين لمجرمي الإنترنت. تنتقد زينب توفيكجي، في كتابها *أسلحة الدمار الرياضي* (2016)، مثل هذه المركزية، وتجادل بأنها تحول الذكاء الاصطناعي إلى "مجمع بانورامي للضعف". وقد شهدت أعقاب الاختراق قيام الجهات الفاعلة المهددة ببيع مجموعات البيانات بالمزاد العلني على منتديات الويب المظلمة، وهو السيناريو الذي يذكرنا بسرقة بيانات LinkedIn في عام 2021، حيث تم بيع 700 مليون ملف تعريف مستخدم لتحقيق الربح.

وعلاوة على ذلك، يسلط الهجوم الضوء على مخاطر اتخاذ القرارات من خلال الذكاء الاصطناعي غير الشفاف. فعلى عكس البرامج التقليدية، حيث يمكن تدقيق التعليمات البرمجية سطرًا بسطر، تعمل نماذج التعلم الآلي كـ "صناديق سوداء". وهذا الغموض، كما تم استكشافه في كتاب كاثي أونيل "الخوارزمية الأخلاقية" (2019)، يعقد اكتشاف التهديدات. يمكن أن تمر الهجمات المعادية - مثل حقن البيانات الضارة لتشويه مخرجات النموذج - دون أن يلاحظها أحد حتى يحدث فشل كارثي. في حالة ديب سيك، يشتبه المحللون في أن المهاجمين استغلوا بيانات التدريب التي تم التحقق من صحتها بشكل ضعيف، مما أدى إلى إفساد خوارزميات اكتشاف الاحتيال بشكل خفي بمرور الوقت.

التكامل مع جهات خارجية: بيت من ورق

كما يلقي الاختراق الضوء القاسي على مخاطر الاعتماد على جهات خارجية. نادرًا ما تعمل منصات الذكاء الاصطناعي الحديثة بمعزل عن بعضها البعض؛ فهي تدمج الخدمات السحابية والمكتبات مفتوحة المصدر وأجهزة إنترنت الأشياء، مما يخلق متاهة من نقاط الدخول المحتملة. إن هجوم شبكة الروبوتات Mirai  في عام 2016، والذي استغل أجهزة إنترنت الأشياء الضعيفة لشل البنية التحتية للإنترنت، يوضح هذا التهديد. من المحتمل أن يكون اعتماد ديب سيك على واجهات برمجة التطبيقات الخارجية لتغذية البيانات في الوقت الفعلي قد وفر للمهاجمين بابًا خلفيًا، مما يذكرنا باختراق Okta في عام 2023، حيث مكنت بيانات الاعتماد المخترقة من الحركة الجانبية عبر الشبكات.

يعكس هذا الترابط ما وصفته الصحفية نيكول بيرلروث في كتاب *هكذا أخبروني بنهاية العالم* (2021) بأنه "سوق أسلحة سيبرانية"، حيث يتم تسليع الثغرات الأمنية وتسليح نقاط ضعف سلسلة التوريد. إن حادثة ديب سيك تثير سؤالاً ملحاً: هل يمكن لمنصات الذكاء الاصطناعي، التي تعتمد على أنظمة بيئية تعاونية، أن تحقق الأمن الحقيقي في بيئة مليئة بالثغرات الأمنية التي تهدد أطراف ثالثة؟

نحو مستقبل مرن: التوفيق بين الابتكار والأمن

إن معالجة هذه التحديات تتطلب تحولاً جذرياً في استراتيجية الأمن السيبراني. أولاً، يجب أن يصبح تبني مبادئ "الأمن من خلال التصميم"، كما دعا إليها المعهد الوطني للمعايير والتكنولوجيا (NIST) في إطار الأمن السيبراني (2018)، أمراً غير قابل للتفاوض. وهذا يستلزم تضمين التشفير، وهندسة الثقة الصفرية، وضوابط الوصول الصارمة في أنظمة الذكاء الاصطناعي منذ إنشائها - وليس كأفكار لاحقة.

ثانياً، يجب على صناعة الذكاء الاصطناعي إعطاء الأولوية للشفافية والمساءلة.

لقد عملت برامج مثل TensorFlow وPyTorch على إضفاء الطابع الديمقراطي على تطوير الذكاء الاصطناعي، ولكنها تتطلب أيضًا عمليات تدقيق صارمة. يمكن أن تكون المبادرات مثل قانون الذكاء الاصطناعي المقترح من قبل الاتحاد الأوروبي (2024)، والذي يفرض تقييمات المخاطر لأنظمة الذكاء الاصطناعي عالية التأثير، بمثابة مخطط للمعايير العالمية.

أخيرًا، يعد التعاون بين الأوساط الأكاديمية والصناعة وصناع السياسات أمرًا بالغ الأهمية. يقدم التعاون في عام 2022 بين OpenAI وMicrosoft  لتشكيل فريق أحمر GPT-4، وتحديد نقاط الضعف من خلال الهجمات المحاكاة، نموذجًا للدفاع الاستباقي. من خلال تعزيز ثقافة "الاختراق الأخلاقي"، يمكن للمنظمات أن تظل متقدمة على الخصوم الذين يتطورون بسرعة مثل التقنيات التي تستهدفها.

التنقل عبر التقاطع الخطير بين الذكاء الاصطناعي والأمن السيبراني

إن الهجوم السيبراني ديب سيك ليس شذوذًا معزولًا ولكنه نذير لعصر جديد من الصراع الرقمي. مع انتشار الذكاء الاصطناعي في الصناعات ــ من الرعاية الصحية إلى التمويل ــ فإن مخاطر تأمين هذه الأنظمة لا يمكن أن تكون أعلى من ذلك. ويشكل الاختراق تذكيرا صارخا بأن التقدم التكنولوجي، على الرغم من تحويله، يحمل مخاطر متأصلة تتطلب اليقظة والابتكار والعمل الجماعي.

وبحسب تعبير خبير الأمن السيبراني ميكو هيبونين، "النظام الآمن الوحيد هو النظام الذي يتم إيقاف تشغيله، ويوضع في كتلة من الخرسانة، ويُغلق في غرفة مبطنة بالرصاص ــ وحتى في هذه الحالة، لست متأكدا تماما". ولكي يفي الذكاء الاصطناعي بوعده، يتعين علينا أن نتجاوز الرضا عن الذات ونواجه نقاط ضعفه بشكل مباشر، ونضمن ألا تصبح الأنظمة المصممة لتمكين البشرية أعظم مسؤولياتها.

المراجع

- شناير، ب. (2018). *انقر هنا لقتل الجميع: الأمن والبقاء في عالم شديد الاتصال*. دبليو دبليو. نورتون آند كومباني.

- توفيكسي، ز. (2016). *أسلحة الدمار الرياضي: كيف تزيد البيانات الضخمة من عدم المساواة وتهدد الديمقراطية*. مجموعة كراون للنشر.

- أونيل، سي. (2019). *الخوارزمية الأخلاقية: علم تصميم الخوارزميات الواعية اجتماعيًا*. مطبعة جامعة أكسفورد.

- بيرلروث، ن. (2021). *هذه هي الطريقة التي أخبروني بها أن العالم سينتهي: سباق التسلح بالأسلحة الإلكترونية*. دار بلومزبري للنشر.

- المعهد الوطني للمعايير والتكنولوجيا. (2018). *إطار عمل الأمن السيبراني الإصدار 1.1*.

- المفوضية الأوروبية. (2024). *اقتراح بشأن لائحة بشأن الذكاء الاصطناعي (قانون الذكاء الاصطناعي)*.

Posted in: ذكاء إصطناعي