أخطر ما يحدث اليوم في عالم الذكاء الاصطناعي ليس أن الآلة أصبحت تكتب وتحلل وتبرمج وتنتج الصور والفيديوهات بسرعة مذهلة، بل أن بعض الذين يقودون هذا السباق بأنفسهم بدأوا يقولون لنا إن السرعة ربما تجاوزت حدود الحكمة. فعندما يخرج داريو أمودي، الرئيس التنفيذي والمؤسس المشارك لشركة Anthropic، ليحذر من أن تطوير الأنظمة الأكثر قوة ينبغي أن يصبح أبطأ وأكثر حذرًا، فإنني لا أتعامل مع كلامه باعتباره موقفًا عابرًا أو حملة علاقات عامة. الرجل ليس فيلسوفًا يراقب الثورة الرقمية من مدرج الجامعة، بل يوجد داخل غرفة المحركات نفسها، ويعرف ماذا يجري في المختبرات، ويشاهد من الداخل حجم القفزات التي تحققها النماذج الحديثة.
وهذا تحديدًا ما يجعلني أرى أن تحذيره ينبغي ألا يمر كما تمر أخبار تحديثات التطبيقات.
لقد اعتدنا سنوات طويلة أن نسمع سؤالًا واحدًا: ما الذي سيستطيع الذكاء الاصطناعي فعله غدًا؟ أما اليوم فقد أصبح علينا أن نطرح السؤال الأكثر إزعاجًا: ماذا سنفعل نحن إذا أصبح قادرًا على فعل أشياء لم نعد نستطيع توقعها أو ضبطها بالسرعة نفسها؟
أنا لا أنتمي إلى معسكر الخائفين من التكنولوجيا لمجرد أنها جديدة، ولا أرى في الذكاء الاصطناعي وحشًا ينبغي القضاء عليه. على العكس، أراه واحدًا من أعظم التحولات المعرفية التي عرفتها البشرية، وقد يفتح أبوابًا هائلة أمام الطب والتعليم والبحث العلمي والإبداع والاقتصاد. لكن المشكلة تبدأ حين يتحول الانبهار بالقدرة إلى غفلة عن المخاطر، وحين تصبح كلمة «الأسرع» أهم من كلمة «الأكثر أمانًا».
هذه هي العقدة الحقيقية في رأيي.
فالشركات الكبرى دخلت اليوم سباقًا يكاد يشبه سباقات التسلح. OpenAI وAnthropic وGoogle وغيرها تعرف أن من يتأخر عدة أشهر قد يخسر سوقًا واستثمارات ومستخدمين ونفوذًا. لذلك أصبح تطوير النموذج الأقوى حدثًا اقتصاديًا واستراتيجيًا، وليس مجرد إنجاز تقني. وكلما أعلنت شركة نموذجًا أكثر ذكاءً، سارع الآخرون إلى الرد. ومن الطبيعي في مثل هذه البيئة أن تصبح الفرامل شيئًا غير محبوب.
لكن السيارة التي لا تملك فرامل جيدة لا تصبح أفضل لأنها أسرع.
وما يقلقني أكثر هو أن الذكاء الاصطناعي لم يعد مجرد برنامج ينتظر سؤالي ليقدم لي جوابًا. نحن نقترب من عالم الوكلاء الأذكياء، أي الأنظمة التي تستطيع أن تتلقى هدفًا ثم تبدأ في تنفيذ خطوات متعددة لتحقيقه: تبحث، وتكتب، وتبرمج، وتستخدم الأدوات، وتتواصل مع أنظمة أخرى، وتتخذ قرارات متتابعة دون أن يحتاج الإنسان إلى التدخل في كل خطوة.
وهنا يتغير كل شيء.
هناك فرق هائل بين أداة تقول لك كيف تنجز مهمة وبين أداة تبدأ في إنجازها نيابة عنك. وهناك فرق أكبر بين نظام ينفذ مهمة واحدة تحت المراقبة ونظام يستطيع تشغيل عشرات أو مئات أو آلاف الوكلاء في الوقت نفسه.
إذا كانت هذه الأنظمة قادرة غدًا على تحليل الشبكات واكتشاف الثغرات وكتابة الأكواد وإدارة أجهزة وأنظمة رقمية متعددة، فإن المسألة تصبح أكبر من مجرد إنتاج نصوص جميلة أو تلخيص الكتب.
نحن ندخل منطقة الأمن السيبراني.
والمفارقة أن الذكاء الاصطناعي يمكن أن يصبح أفضل حارس للشبكات وأفضل مهاجم لها في الوقت نفسه. النظام الذي يستطيع اكتشاف ثغرة لحمايتي يستطيع نظريًا استخدامها لمهاجمتي أيضًا. والأداة التي تساعد الباحث العلمي على فهم عملية بيولوجية معقدة يمكن أن تصبح مصدر خطر إذا وقعت في يد من يريد استخدامها بطريقة خبيثة.
ولهذا لا أفهم أولئك الذين يسخرون من كل حديث عن مخاطر الذكاء الاصطناعي وكأنه مجرد سيناريو هوليوودي.
ليس ضروريا أن نؤمن بأن الروبوتات ستستيقظ غدًا لتعلن الحرب على البشر حتى نأخذ المخاطر بجدية. يكفي أن نسأل: ماذا يحدث إذا امتلك فرد أو مجموعة صغيرة قدرات رقمية كانت تحتاج في السابق إلى مؤسسة كاملة؟
هذا وحده انقلاب.
أما القضية التي أعتبرها الأخطر فهي أن الذكاء الاصطناعي بدأ يدخل في صناعة الذكاء الاصطناعي نفسه.
لقد أصبحت النماذج تساعد المطورين في كتابة الأكواد، واكتشاف الأخطاء، واقتراح الحلول، وتصميم الاختبارات، وتحليل النتائج. وهذا يعني أننا قد ننتقل تدريجيًا إلى مرحلة تصبح فيها الآلة جزءًا من العملية التي تنتج الجيل التالي منها.
هنا تظهر فكرة «التحسين الذاتي التكراري».
أنا لا أقول إننا وصلنا إلى آلة تعيد بناء نفسها سرًا في غرفة مظلمة. هذه مبالغة. لكن الاتجاه في حد ذاته يستحق التأمل. فإذا ساعد الجيل الحالي على صناعة جيل أقوى، ثم استطاع الجيل الأقوى أن يساهم بصورة أكبر في صناعة الجيل الذي يليه، فقد تتسارع الدورة بصورة يصعب على الإنسان مجاراتها.
وهذا هو جوهر المشكلة التي أراها أمامنا: ليست القدرة فقط، بل السرعة.
البشر بطيئون.
البرلمانات بطيئة. الحكومات بطيئة. المؤسسات القانونية بطيئة. لجان الأخلاق بطيئة. كتابة التشريعات بطيئة. بينما النموذج الجديد يمكن أن يظهر في أشهر، وقد يغير قواعد اللعبة قبل أن تنتهي لجنة رسمية من كتابة تقريرها الأول.
كيف يمكن لقانون يستغرق عامين أن ينظم تكنولوجيا تتغير كل شهرين؟
لهذا أعتقد أن العالم أمام معركة تنظيمية غير مسبوقة. لا يكفي أن نطالب الشركات بأن تكون «مسؤولة». المصالح الاقتصادية أكبر من حسن النوايا. ولا يكفي أيضًا أن نطلب من شركة واحدة أن تتباطأ، لأن الشركة الأخرى قد تواصل السباق.
هذه ليست مشكلة شركة. إنها مشكلة منظومة عالمية.
إذا أبطأت Anthropic واستمرت OpenAI بأقصى سرعة، فلن يتوقف السباق. وإذا وضعت الولايات المتحدة قواعد صارمة بينما طورت الصين أو دول أخرى الأنظمة بلا قيود، فلن يحل الأمر. لذلك يصبح التنسيق الدولي ضرورة وليس ترفًا.
وأعتقد أننا سنضطر عاجلًا أم آجلًا إلى التعامل مع النماذج فائقة القوة كما نتعامل مع تقنيات شديدة الحساسية في مجالات أخرى: اختبارات مستقلة، ومعايير إلزامية، ومستويات خطورة، وقيود على بعض القدرات، وآليات لمراقبة الأنظمة قبل نشرها على نطاق واسع.
ولا أرى في ذلك حربًا على الابتكار.
فالطائرة لا تعتبر أقل تطورًا لأننا نختبرها قبل أن تحمل مئات الركاب. والدواء لا يصبح عدوًا للعلم لأننا نختبر سلامته قبل بيعه. ومحطة الطاقة لا تعتبر أقل كفاءة لأننا نضع أنظمة تمنع انفجارها.
لماذا إذن نعتبر اختبارات السلامة في الذكاء الاصطناعي عائقًا أمام التقدم؟
أنا أخشى أن يكون الوهم الأكبر الذي نعيشه اليوم هو الاعتقاد بأن السوق سيحل كل شيء بنفسه. السوق يريد السرعة. المستثمر يريد النمو. الشركة تريد الهيمنة. والمستخدم يريد المنتج الأقوى.
لكن من سيطلب الأمان؟
من سيقول: كفى، دعونا نفهم ما بنيناه قبل أن نبني ما هو أقوى منه؟
ربما لهذا السبب أعتبر تحذير مدير Anthropic مهمًا. ليس لأنه أثبت أن كارثة ما ستقع، فهو لم يثبت ذلك، ولا أحد يستطيع الجزم به. بل لأن التحذير جاء من قلب الصناعة نفسها.
عندما يخبرك شخص يجلس قرب المحرك أن السيارة تحتاج إلى مكابح أقوى، فمن الحكمة على الأقل أن تنظر إلى لوحة السرعة.
والأمر لا يتعلق بالخوف من المستقبل بل بحق البشر في أن يظلوا هم من يحددون شروطه.
أنا لا أريد عالمًا يتوقف فيه تطوير الذكاء الاصطناعي. أريد العكس تمامًا: أريد ذكاءً اصطناعيًا أكثر قدرة وفائدة وجرأة. لكنني أريده تحت سقف المسؤولية البشرية.
لأن السؤال لم يعد، في نظري، هل سنصنع ذكاءً اصطناعيًا أكثر قوة.
هذا أصبح شبه محسوم.
السؤال الحقيقي هو: هل سنبني، بالسرعة نفسها، المؤسسات والقواعد والمكابح التي تجعلنا قادرين على التحكم في القوة التي نصنعها؟
وإذا لم نفعل، فقد نستيقظ يومًا لنكتشف أن أكبر خطأ لم يكن أننا صنعنا آلة شديدة الذكاء، بل أننا كنا في عجلة شديدة ونحن نفعل ذلك.
0 التعليقات:
إرسال تعليق