عاملون في شركة OpenAI يحذرون من مخاطر"انقراض الإنسان"

قال خبراء الذكاء الاصطناعي إن المطورين في هذا المجال يحتاجون إلى حماية قوية للعمال حتى يتمكنوا من تحذير الجمهور من طبيعة التقنيات الجديدة

حذرت مجموعة من الموظفين الحاليين والسابقين في كبرى شركات وادي السيليكون التي تعمل على تطوير الذكاء الاصطناعي في رسالة مفتوحة من أنه بدون ضمانات إضافية، يمكن للذكاء الاصطناعي أن يشكل تهديدًا "بانقراض البشرية".

تقول الرسالة، التي وقعها 13 موظفًا سابقًا معظمهم في شركات مثل OpenAI وAnthropic وDeepMind  من  غوغل، إن كبار الباحثين في مجال الذكاء الاصطناعي يحتاجون إلى مزيد من الحماية لتوجيه انتقادات للتطورات الجديدة وطلب مدخلات من الجمهور وصانعي السياسات حول اتجاه ابتكارات الذكاء الاصطناعي.

وجاء في رسالة الثلاثاء الماضي 4 يونيه : “نحن نؤمن بإمكانية تكنولوجيا الذكاء الاصطناعي في تقديم فوائد غير مسبوقة للبشرية”. "نحن نتفهم أيضًا المخاطر الجسيمة التي تشكلها هذه التقنيات. وتتراوح هذه المخاطر من زيادة ترسيخ عدم المساواة القائمة، إلى التلاعب والتضليل، إلى فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة مما قد يؤدي إلى انقراض الإنسان.

تقول الرسالة بأن الشركات التي تطور تقنيات الذكاء الاصطناعي القوية، بما في ذلك الذكاء الاصطناعي العام  (AGI)، وهو نظام ذكاء اصطناعي نظري يكون ذكيًا أو أكثر ذكاءً من الذكاء البشري، "لديها حوافز مالية قوية لتجنب الرقابة الفعالة" من موظفيها والإدارة. الجمهور بوجه عام.

نيل ناندا من شركة ديب ميند هو الباحث الوحيد في مجال الذكاء الاصطناعي المنتسب حاليًا إلى إحدى الشركات التي وقعت الرسالة.

كتب على X : "لم يكن هذا بسبب أن لدي حاليًا أي شيء أريد التحذير منه لدى أصحاب العمل الحاليين أو السابقين، أو انتقادات محددة لمواقفهم تجاه المبلغين عن المخالفات". "لكنني أعتقد أن الذكاء الاصطناعي العام سيكون ذا أهمية لا تصدق، وكما هو الحال مع جميع المختبرات الاعتراف، يمكن أن يشكل تهديدا وجوديا. يجب على أي مختبر يسعى إلى تطوير الذكاء الاصطناعي العام أن يثبت أنه يستحق ثقة الجمهور، ويعتبر حصول الموظفين على حق قوي ومحمي للإبلاغ عن المخالفات خطوة أولى أساسية.

تدعو الرسالة الشركات إلى الامتناع عن معاقبة أو إسكات الموظفين الحاليين أو السابقين الذين يتحدثون علناً عن مخاطر الذكاء الاصطناعي، في إشارة محتملة إلى فضيحة هذا الشهر في OpenAI، حيث طُلب من الموظفين المغادرين الاختيار بين خسارة الأسهم المكتسبة أو التوقيع على اتفاق. اتفاقية عدم الذم بشأن الشركة التي لم تنتهي صلاحيتها. (قامت شركة OpenAI لاحقًا برفع هذا الشرط، قائلة: "إنه لا يعكس قيمنا أو الشركة التي نريد أن نكون عليها".)

Posted in: ذكاء إصطناعي