لا أخشى الذكاء الاصطناعي لأنه ذكي، ولا لأن الشاشات امتلأت ببرامج تتحدث وتكتب وترسم وتلخص وتجيب في ثوان عما كان يحتاج منا ساعات طويلة، وإنما أخشاه عندما يتحول من أداة بين أيدينا إلى قوة تتسع أسرع من قدرتنا على فهمها، ومن وسيلة نستخدمها إلى بيئة تستخدمنا نحن أيضًا، وتعيد ترتيب اختياراتنا ومهننا وعلاقاتنا ومعلوماتنا وصورتنا عن العالم، وربما صورتنا عن أنفسنا. لهذا لم أتوقف عند الصورة المتداولة التي تقول إن «الروبوتات قد تبيد البشر» بوصفها عنوانًا مثيرًا يصلح للاستهلاك السريع، بل توقفت عند ما هو أخطر من العنوان نفسه: أن رجلًا من الذين ساهموا في بناء الأسس العلمية للثورة الحالية في الذكاء الاصطناعي أصبح يحذرنا من الاتجاه الذي قد تسلكه هذه الثورة إذا واصلنا سباق القوة قبل أن نحدد قواعد الأمان.
جيفري هينتون ليس واعظًا يقف خارج المختبر ليرجم التكنولوجيا بالحجارة، وليس كاتب خيال علمي يطارد نهاية العالم من أجل الإثارة، بل هو واحد من أبرز العلماء الذين ارتبطت أسماؤهم بتطور الشبكات العصبية والتعلم العميق، وحائز على جائزة نوبل في الفيزياء لعام 2024 بالمشاركة مع جون هوبفيلد. وهذه الحقيقة وحدها تجعل تحذيراته جديرة بالإنصات، لا لأنها نبوءة، ولا لأنها حقيقة نهائية، ولكن لأنها تأتي من داخل المطبخ الذي أعد واحدة من أكثر التقنيات تأثيرًا في هذا القرن. عندما يقول عالم من هذا الوزن إن البشرية قد تجد نفسها أمام أنظمة أذكى منها، فإن القضية لا تعود مجرد مزحة رقمية ولا لقطة سينمائية لروبوت معدني يطارد البشر في الشوارع، وإنما تصبح سؤالًا فلسفيًا وسياسيًا وأخلاقيًا وثقافيًا من الدرجة الأولى: ماذا سيحدث إذا نجح الإنسان في صناعة عقل يتفوق عليه في مجالات أساسية؟
أنا لا أعتقد أن أخطر ما في المسألة هو الروبوت نفسه. كلمة «روبوت» قد تكون في الحقيقة سببًا في سوء الفهم. إنها تجعلنا نتخيل آلة لها ذراعان وساقان ووجه معدني، بينما الخطر الذي يناقشه هينتون وغيره يمكن أن يأتي في صورة أكثر هدوءًا وأشد نفوذًا: أنظمة رقمية قادرة على التعلم والتخطيط والإقناع واتخاذ القرار والتأثير في ملايين الناس في الوقت نفسه، أنظمة لا تحتاج إلى السير في الشارع حتى تفرض قوتها، لأنها قد تكون موجودة أصلًا داخل الاقتصاد والإعلام والأسواق والإدارة والتعليم والبحث العلمي وشبكات الاتصال والبنى التحتية. نحن أمام احتمال أن تصبح القوة موزعة في خوارزميات لا نراها، لكنها ترى عنا أكثر مما نراه نحن عن أنفسنا.
ومن هنا أرى أن العبارة الصحفية التي تختصر كل هذا في قولها إن «الروبوتات قد تبيد البشر» لا تكذب تمامًا، لكنها تظلم القضية لأنها تحولها إلى مشهد رعب رخيص. هينتون لا يقول إن نهاية الإنسان مقررة، ولا يعلن أن الآلات ستستيقظ ذات صباح وتشن حربًا على البشرية. ما يقوله، في جوهره، أكثر تعقيدًا: إن الأنظمة فائقة الذكاء قد تصبح خطرة إذا امتلكت قدرة على تنفيذ أهداف لا تتوافق مع مصالح البشر، وإذا عجزنا عن ضمان استمرار السيطرة البشرية عليها. وهذا الفرق بين التحذير العلمي والعنوان المثير يجب أن يبقى حاضرًا، لأن الخوف غير العقلاني قد يكون سيئًا مثل الطمأنينة غير العقلانية.
لقد اعتدنا تاريخيًا أن يكون الإنسان هو الطرف الأكثر ذكاء في أي علاقة مع آلة. الآلة أسرع منه أحيانًا، وأقوى منه، وأدق في الحساب، لكنها تنفذ في النهاية ما صُممت من أجله. أما الاحتمال الجديد الذي تطرحه أنظمة الذكاء الاصطناعي المتقدمة فهو أن ننتقل إلى عالم لا تكون فيه المسألة مجرد سرعة الحساب، بل القدرة على بناء استراتيجيات وتوقع السلوك وصياغة الحجج واكتشاف الثغرات وربما تطوير أساليب جديدة لم تخطر ببال المبرمج نفسه. وهنا يتحول السؤال من «ماذا تستطيع الآلة أن تفعل؟» إلى «ماذا نفعل نحن إذا أصبحت الآلة قادرة على أشياء لا نستطيع توقعها؟».
هينتون تحدث مرارًا عن احتمال وجود مخاطر كارثية أو وجودية مرتبطة بالذكاء الاصطناعي، وطرح تقديرات شخصية لا ينبغي التعامل معها كأرقام مقدسة، لأنه أوضح بنفسه أنها ليست ناتجة عن علم إحصائي صارم، بل عن حدس خبير أمام ظاهرة لم يعرف التاريخ مثيلًا كاملًا لها. وهذه نقطة يجب ألا تضيع وسط الضجيج. نحن لا نملك جدولًا سابقًا لحضارة صنعت كيانًا أذكى منها ثم راقبنا ماذا حدث. لا توجد تجربة تاريخية نستطيع منها حساب النسبة بدقة. نحن نسير للمرة الأولى في طريق لم يسر فيه أحد قبلنا، ولذلك فإن نسبة الخطر نفسها أقل أهمية عندي من حقيقة وجوده أصلًا.
المثير للمفارقة أن العالم يتعامل مع الذكاء الاصطناعي بطريقتين متناقضتين في الوقت نفسه. من جهة نراه فرصة اقتصادية هائلة، وشركات التقنية تتنافس على إطلاق نماذج أقوى، والدول تسعى إلى امتلاك مراكز بيانات أكبر، والاستثمارات تتدفق بمليارات الدولارات، ومن جهة ثانية تتزايد التحذيرات من أثر هذه النماذج في الوظائف والمعلومات والانتخابات والخصوصية والحرب السيبرانية وحتى مستقبل الإنسان. وكأننا نقود سيارة جديدة بسرعة هائلة بينما ما زال المهندسون يناقشون أين ينبغي وضع الفرامل.
وهذا ما يزعجني أكثر من خطاب الخوف نفسه. إن الحضارة الرقمية لا تملك مشكلة في الابتكار، مشكلتها أنها تبتكر أسرع مما تشرّع، وتنتج أسرع مما تفهم، وتربح أسرع مما تسأل عن الثمن. لقد أصبح من الطبيعي أن نطلق إلى العالم نظامًا يؤثر في مئات الملايين من الأشخاص ثم نبدأ بعد ذلك في مناقشة مخاطره. التكنولوجيا وصلت إلى مرحلة أصبح فيها المجتمع أشبه بمختبر مفتوح، والمستخدمون هم في أحيان كثيرة موضوع التجربة قبل أن يكونوا مجرد مستفيدين منها.
ولذلك فإن تحذيرات هينتون ينبغي ألا تُقرأ فقط في إطار احتمال بعيد اسمه «انقراض البشرية». هناك مخاطر تحدث أمامنا الآن، أقل درامية لكنها أكثر يومية: أن تتحول الحقيقة إلى سلعة تنافسها الأكاذيب المصنوعة آليًا، وأن يصبح التزييف العميق قادرًا على ضرب الثقة في الصورة والصوت، وأن تتعرض وظائف كاملة لإعادة الهيكلة، وأن تتزايد قدرة الحكومات والشركات على المراقبة والتنبؤ بالسلوك، وأن تتراكم الثروة والقدرة الحسابية في أيدي عدد محدود من الشركات والدول. ماذا يعني أن تمتلك مؤسسة خاصة أنظمة تستطيع التأثير في المعرفة واللغة والإبداع والتعليم والمعلومة على نطاق عالمي؟ أليست هذه سلطة سياسية بطريقة أخرى؟
نحن نميل إلى الحديث عن الذكاء الاصطناعي كما لو كان تقنية محايدة، لكنني لا أؤمن كثيرًا بحياد التقنيات الكبرى. كل تقنية تدخل المجتمع تعيد توزيع القوة. الطباعة غيرت علاقة الناس بالمعرفة، والراديو غيّر السياسة، والتلفزيون غيّر الصورة العامة، والإنترنت غيّر الإعلام والتجارة والحياة الخاصة، والذكاء الاصطناعي مرشح لأن يذهب أبعد من كل ذلك لأنه لا يغير فقط وسيلة نقل المعرفة، بل يدخل مباشرة في إنتاج المعرفة نفسها.
وهنا أصل إلى السؤال الذي أراه أخطر من سؤال «هل ستقضي الآلات علينا؟»: من سيقود هذه الآلات؟ من سيحدد قيمها؟ من سيقرر ما الذي تتعلمه وما الذي تستبعده؟ من سيملك بنيتها التحتية؟ من سيستفيد من أرباحها؟ من سيتحمل أخطاءها؟ ومن سيحاسَب عندما تتخذ خوارزمية قرارًا يضر إنسانًا؟
إن الحديث عن «التوافق» بين الذكاء الاصطناعي والمصالح البشرية يبدو جميلًا، لكن حتى عبارة «المصالح البشرية» ليست بسيطة. مصالح من؟ هل هي مصالح الشركات التي تطور النماذج؟ مصالح الحكومات؟ مصالح الدول الغنية؟ مصالح العمال الذين قد يفقدون وظائفهم؟ مصالح الأطفال الذين سيكبرون مع مساعدين رقميين يعرفون عنهم تفاصيل هائلة؟ مصالح المجتمعات التي تتحدث لغات لا تحظى بالتمثيل نفسه في البيانات؟ هنا تتحول قضية تقنية إلى قضية عدالة.
لهذا لا أريد لعالمنا أن يسقط في أحد معسكرين ساذجين: معسكر يعبد الذكاء الاصطناعي ويرى فيه خلاصًا آليًا لكل مشاكل البشرية، ومعسكر آخر يراه شيطانًا رقميًا يجب إيقافه بالكامل. كلا الموقفين يريح العقل من مسؤولية التفكير. التكنولوجيا ليست خلاصًا وليست لعنة في ذاتها، لكنها تصبح خطرة عندما تنفصل قدرتها عن المسؤولية.
لقد قال هينتون ما معناه إن البشر ربما يحتاجون إلى تطوير أنظمة يكون لديها نوع من الاهتمام برفاه الإنسان، بدل الاعتقاد أن السيطرة التقنية وحدها ستكفي إلى الأبد. وهذه الفكرة تبدو غريبة للوهلة الأولى: نحن الذين صنعنا الآلة ثم نأمل أن «تهتم» بنا. لكنها تكشف عمق المعضلة. ماذا لو أصبح فارق القدرة بيننا وبين الأنظمة المستقبلية شبيهًا بفارق القدرة بين كائن ضعيف وكائن أكثر ذكاء منه؟ هل سنظل نحن أصحاب القرار، أم سنحتاج إلى ضمان أن الطرف الأقوى لا يرى وجودنا عائقًا أمام أهدافه؟
هذه ليست دعوة للهلع، لكنها دعوة للتواضع. الإنسان الحديث اعتاد أن يتخيل نفسه سيد الطبيعة، ثم جاء تغير المناخ ليذكره بأن السيادة الوهمية قد تتحول إلى أزمة. واليوم قد يكون الذكاء الاصطناعي اختبارًا جديدًا للغرور نفسه. نحن مفتونون بفكرة صنع عقل يشبهنا، لكننا لا نتوقف بما يكفي أمام الاحتمال البسيط والخطير: ماذا إذا نجحنا أكثر مما ينبغي؟
إنني أرى أن المسؤولية اليوم تقع على ثلاثة مستويات. أولًا، على العلماء والشركات أن يتعاملوا مع سلامة الذكاء الاصطناعي باعتبارها جزءًا من التصميم لا فقرة علاقات عامة تضاف بعد إطلاق المنتج. ثانيًا، على الحكومات أن تضع أطرًا قانونية لا تقتل الابتكار ولكنها تمنع تحويل البشر إلى فئران تجارب في سباق تجاري مفتوح. وثالثًا، على المجتمع نفسه أن يطور ثقافة خوارزمية حقيقية، لأن المواطن الذي لا يفهم كيف تؤثر الأنظمة الرقمية في اختياراته يصبح أكثر قابلية للتوجيه دون أن يشعر.
وهذا الجانب الأخير يعني لي الكثير. المشكلة ليست أن يصبح الذكاء الاصطناعي أذكى منا فقط، بل أن نصبح نحن أقل رغبة في التفكير لأن الآلة تفكر بدلًا منا. أن نتخلى عن الكتابة لأنها تكتب، وعن البحث لأنها تلخص، وعن الذاكرة لأنها تتذكر، وعن الحكم لأنها تقترح. التكنولوجيا التي تبدأ مساعدًا قد تتحول بصمت إلى بديل إذا فقد الإنسان عضلاته الفكرية. وفي تلك اللحظة لن يكون السؤال هل سيقضي الذكاء الاصطناعي على البشر، بل هل سنكون نحن قد بدأنا قبل ذلك بقليل في القضاء على بعض ما يجعلنا بشرًا؟
إن الذكاء الاصطناعي يستطيع أن يكون أداة عظيمة للطب والتعليم والبحث العلمي والإبداع وحل مشكلات معقدة، ولا مصلحة لأحد في إنكار ذلك. لكن القيمة الحقيقية لأي تقدم لا تقاس فقط بما يستطيع فعله، بل أيضًا بما يمنع نفسه من فعله. الطائرة الحديثة عظيمة لأننا طورنا معها قواعد السلامة، والدواء عظيم لأننا نختبره قبل توزيعه، والطاقة النووية مفيدة لأننا لا نعامل المفاعل كما نعامل آلة منزلية. فلماذا ينبغي أن يكون الذكاء الاصطناعي استثناء؟
الرسالة التي ألتقطها من تحذيرات جيفري هينتون ليست أن نستعد لحرب ضد الروبوتات، بل أن نستعد أخلاقيًا وسياسيًا وعلميًا لعالم تدخل فيه أنواع جديدة من الذكاء إلى المجال البشري. قد لا نرى جيشًا من الآلات في الشوارع، لكننا سنرى قرارات خوارزمية أكثر، وسنرى شركات أقوى، وسنرى صراعًا على البيانات والطاقة الحاسوبية والمعرفة، وسنرى إنسانًا مضطرًا إلى إعادة تعريف دوره في العمل والإبداع والقرار.
والخطر الحقيقي، في تقديري، لن يبدأ في اليوم الذي تصبح فيه الآلة أذكى من الإنسان. قد يبدأ قبل ذلك بكثير، في اليوم الذي يقتنع فيه الإنسان أن مسؤوليته انتهت لأن الخوارزمية تعرف أفضل.
لهذا لا أقرأ عبارة «الروبوتات قد تبيد البشر» كخبر عن نهاية العالم، بل كجرس إنذار عن بداية مرحلة جديدة. المستقبل لن يحسمه الذكاء الاصطناعي وحده، بل الطريقة التي سنختار نحن بها بناءه وتشريعه واستخدامه. وإذا كان هينتون، وهو واحد ممن ساهموا في فتح هذا الباب، يطلب منا أن نتوقف قليلًا أمام ما يوجد خلفه، فمن الحكمة ألا نضحك على التحذير ولا نحوله إلى فيلم رعب، بل أن نأخذه بجدية تليق بما قد يكون أكبر تحول تقني عرفته الحضارة الحديثة.
إن السؤال ليس: هل ستبيدنا الروبوتات؟
السؤال الذي ينبغي أن يقلقنا حقًا هو: هل سنكون حكماء بما يكفي كي لا نصنع قوة تفوقنا قبل أن نتعلم كيف نعيش معها؟
بقلم الكاتب المغربي عبده حقي
0 التعليقات:
إرسال تعليق