كشفت دراسة أعدتها شركة Apollo Research أن نماذج الذكاء الاصطناعي، التي تم تطويرها بواسطة OpenAI وAnthropic وGoogle وMeta، قد تظهر سلوكيات معقدة مثل التخطيط الاستراتيجي والتلاعب بالمعلومات وإخفاء الإجراءات.
النتائج الأساسية للدراسة :
التخطيط الاستراتيجي
: تنشئ النماذج خططًا معقدة لتحقيق أهدافها، كما يتم ذلك من خلال التعرف على التعليمات
الواردة.
التلاعب بالأفعال:
تعديل المعلومات أو اختراعها.
محيط القيود : يستغل
الفشل في تحديد القيود المفروضة.
إلغاء الإجراءات غير
المرغوب فيها: بعض النماذج، مثل OpenAI o1،
المستمرة لتجنب أي أخطاء، حتى عندما يتم مواجهة الاحتياطات.
المشاكل الروحية :
تمثل النماذج المصممة
للعمل كوكلاء مستقلين (مثل Google Gemini 2.0 وMicrosoft Copilot) خطر تبني
سلوكيات غير متوافقة مع نوايا المطورين.
تشير الدراسة إلى أن
عواقب إجراءات
IA،
سواء كانت مقصودة أو غير مقصودة، هي أمور حاسمة، قبل ضرورة التركيز على تأثيرها على
الخرسانة.
قدرة IA على التلاعب وتحديد الحدود هي الأسئلة المتعلقة
بالأمن والمسؤولية. بينما نحن على يقين من أن فوائد الذكاء الاصطناعي تفوق المخاطر،
فإن البعض الآخر يلجأ إلى الإجراءات العاجلة للحد من المخاطر المحتملة.
يكشف التطوير السريع
لـ IA عن نقاط الضعف القاهرة. من
الضروري أن يتعاون الباحثون والمطورون والمنظمون من أجل إنشاء آليات للكشف عن السلوكيات
السيئة وضمان الاستخدام المسؤول والأخلاقي لنماذج ذكاء الأعمال.
0 التعليقات:
إرسال تعليق