في عملها الرائد "كشف الذكاء الاصطناعي: مهمتي لحماية ما هو إنساني في عالم الآلات"، تشرع جوي بولامويني في فحص نقدي للذكاء الاصطناعي، وتكشف عن التحيزات الكامنة المضمنة في هذه الأنظمة وتداعياتها المجتمعية العميقة. لا تُعد روايتها مجرد سرد للنقائص التكنولوجية، بل إنها دعوة واضحة للاعتراف بالأحكام المسبقة التي يمكن للآلات أن تديمها وتصحيحها.
بدأت رحلة بولامويني في متاهة تحيز الذكاء الاصطناعي بلقاء شخصي: أثناء تطوير مشروع فني في مختبر الوسائط التابع لمعهد ماساتشوستس للتكنولوجيا، اكتشفت أن برنامج التعرف على الوجه فشل في اكتشاف وجهها ذي البشرة الداكنة ما لم ترتد قناعًا أبيض. لم يكن هذا الحادث خللًا معزولًا بل كان مظهرًا لمشكلة نظامية أعمق. في دراستها "الظلال الجنسانية"، كشفت بولامويني أن أنظمة الذكاء الاصطناعي التجارية أظهرت تباينات كبيرة في الدقة، حيث وصلت معدلات الخطأ إلى 34.7٪ للنساء ذوات البشرة الداكنة، مقارنة بنحو 0.8٪ فقط للرجال ذوي البشرة الفاتحة. ويؤكد هذا التناقض على خلل خطير: تميل أنظمة الذكاء الاصطناعي المدربة على مجموعات بيانات متجانسة إلى التعثر عند مواجهة مجموعات سكانية متنوعة. citeturn0search0
إن آثار مثل هذه التحيزات بعيدة المدى. في قطاعات مثل إنفاذ القانون والرعاية الصحية والتوظيف، يمكن أن يؤدي الاعتماد على الذكاء الاصطناعي المتحيز إلى تفاقم التفاوتات القائمة. على سبيل المثال، أثرت أبحاث بولامويني على شركات التكنولوجيا الكبرى، مما دفع IBM وMicrosoft إلى إعادة تقييم وتحسين تقنيات التعرف على الوجه الخاصة بهما. ومع ذلك، فإن التحسينات الفنية وحدها غير كافية. تؤكد بولامويني على ضرورة وجود أطر تنظيمية شاملة لضمان نشر الذكاء الاصطناعي الأخلاقي، وتدعو إلى مبادرات مثل تعهد الوجه الآمن، الذي يسعى إلى منع تسليح تقنيات التعرف على الوجه. citeturn0search0
تمتد دعوة بولامويني إلى ما هو أبعد من الأوساط الأكاديمية إلى مجال السياسة العامة. سلطت شهادتها أمام لجنة الرقابة والإصلاح بمجلس النواب الأمريكي الضوء على مخاطر الذكاء الاصطناعي غير المنظم، وخاصة قدرته على إدامة التمييز. ويؤكد هذا الانخراط مع صناع السياسات على الحاجة الملحة لإنشاء آليات الرقابة لحكم تطبيقات الذكاء الاصطناعي. citeturn0search0
يعمل الفيلم الوثائقي *التحيز المشفر* على تضخيم رسالة بولامويني بشكل أكبر، موضحًا كيف يمكن لأنظمة الذكاء الاصطناعي، التي غالبًا ما يُنظر إليها على أنها موضوعية، أن تعكس وتضخم التحيزات البشرية. يعمل الفيلم كتذكير مؤثر بأنه بدون تدخل متعمد، يمكن أن يصبح الذكاء الاصطناعي قناة للتحيز النظامي، مما يؤثر على الملايين. citeturn0search2
في الختام، يعد كتاب بولامويني "كشف هوية الذكاء الاصطناعي" استكشافًا مقنعًا للتقاطع بين التكنولوجيا والمجتمع. إنه يتحدانا لمواجهة التحيزات المتأصلة في آلاتنا، وبالتالي في أنفسنا. إن عملها هو شهادة على ضرورة تطوير أنظمة الذكاء الاصطناعي التي تدعم مبادئ العدالة والمساواة، وضمان أن تعمل التكنولوجيا كأداة للإدماج بدلاً من الإقصاء.
0 التعليقات:
إرسال تعليق