في خطوة وُصفت بالتحول النوعي في عالم الذكاء الاصطناعي، أعلنت شركة OpenAI عن حزمة من الإجراءات الرامية إلى تعزيز سلامة المراهقين أثناء استخدامهم لخدمات ChatGPT، وذلك بعد تزايد المخاوف من المخاطر النفسية والاجتماعية المرتبطة بالتفاعل مع تقنيات المحادثة الذكية.
تقدير العمر والتحقق من الهوية
كشفت الشركة عن تطوير نظام متقدم لتقدير عمر المستخدمين، يهدف إلى توفير تجربة أكثر أمانًا للمراهقين دون سن الثامنة عشرة. ويقوم النظام بتحليل أنماط الاستخدام لتحديد الفئة العمرية، فيما قد يُطلب في بعض الحالات التحقق عبر الهوية الرسمية لضمان الدقة. هذه الخطوة جاءت استجابة لدعوات متزايدة بضرورة فرض رقابة وقائية على استخدام القُصر للتطبيقات الذكية.
قيود صارمة على المحتوى الحساس
وأوضحت OpenAI أن السياسات الجديدة ستمنع بشكل قاطع أي تفاعلات ذات طابع جنسي أو غزلي مع المراهقين، إضافة إلى وضع قيود صارمة على النقاشات المتعلقة بالانتحار أو إيذاء النفس. وفي حال رصد النظام علامات على ضيق نفسي حاد، فإنه قد يُرسل تنبيهًا إلى الأهل أو الجهات المختصة لضمان التدخل في الوقت المناسب.
رقابة أبوية أكثر فاعلية
الميزة الأبرز في التحديث الجديد هي توفير أدوات رقابة أبوية متقدمة. إذ سيكون بإمكان أولياء الأمور ربط حسابات أبنائهم بحساباتهم الخاصة، مع إمكانية التحكم بساعات الاستخدام، أو تعطيل ميزات معينة مثل سجل المحادثات أو خاصية "الذاكرة". كما يمكن للأهل تلقي تنبيهات في حال لاحظ النظام أن المراهق يعيش أزمة نفسية أو حالة حساسة.
نماذج تفكير مخصصة للمواقف الحرجة
وأكدت الشركة أنها ستعتمد على نماذج أكثر تطورًا في الاستدلال والتفكير للتعامل مع المواقف الحرجة. هذه النماذج قادرة على إنتاج ردود مسؤولة وأكثر ملاءمة عندما يتعلّق الأمر بموضوعات حساسة مثل الصحة النفسية أو العلاقات الإنسانية، مع إحالة المستخدمين إلى موارد مهنية متخصصة عند الضرورة.
تعاون مع خبراء دوليين
ولتعزيز فعالية هذه السياسة، تعمل OpenAI بالتنسيق مع شبكة واسعة من الأطباء وخبراء الصحة النفسية وتطور النمو، بالإضافة إلى مختصين في تفاعل الإنسان مع التكنولوجيا. الهدف هو وضع معايير عالمية للتعامل مع هذه الفئة العمرية، ومراجعة آلية النظام باستمرار بما يضمن التوازن بين الحماية والخصوصية.
تساؤلات وانتقادات
ورغم الترحيب بهذه الخطوة، لا تزال هناك أسئلة مفتوحة: كيف يمكن ضمان دقة تقدير العمر دون المساس بخصوصية المستخدمين؟ وهل تستطيع هذه الإجراءات الحد فعلاً من المخاطر النفسية التي قد يتعرض لها المراهقون؟ كما يطرح مراقبون إشكالية التطبيق العملي لهذه السياسات في دول لا تتوفر فيها آليات تحقق رقمية متطورة.
في المحصلة، يبدو أن OpenAI تحاول إعادة رسم العلاقة بين المراهقين والتكنولوجيا عبر مزيج من التقنيات الوقائية والرقابة الأبوية والتدخل المهني. خطوة تعكس إدراكًا متزايدًا بأن الذكاء الاصطناعي، رغم ما يتيحه من فرص، يظل بحاجة إلى ضوابط صارمة لحماية الفئات الأكثر هشاشة في المجتمع.
0 التعليقات:
إرسال تعليق