وعود ومخاطر التحقق الآلي من الحقائق: كليم بوستر وتحدي السياق: ترجمة عبدو حقي

في عصر يتميز بنشر المعلومات بسرعة، لم تكن الحاجة إلى التحقق الدقيق والموثوق من الحقائق أكثر إلحاحًا من أي وقت مضى. تنتشر المعلومات المضللة بسرعة غير مسبوقة، وتشكل الرأي العام، وتؤثر على الانتخابات، وحتى تؤثر على العلاقات الدولية. واستجابة لذلك، تم استخدام الذكاء الاصطناعي بشكل متزايد كمساعد للتحقق التقليدي من الحقائق، مع أدوات مثل كليم بوستر ClaimBuster  الرائدة. ومع ذلك، في حين توفر أدوات التحقق من الحقائق التي يقودها الذكاء الاصطناعي الكفاءة وقابلية التوسع، فإنها تقدم أيضًا تحديات كبيرة - خاصة في مجال الفهم السياقي. يثير التوتر بين الأتمتة وفروق التواصل البشري تساؤلات أساسية حول دور الذكاء الاصطناعي في التحقق من الحقيقة.

كليم بوستر، الذي طوره باحثون في جامعة تكساس في أرلينجتون، هو أحد أنظمة الذكاء الاصطناعي الرائدة المصممة للمساعدة في التحقق من الحقائق في الوقت الفعلي. إن برنامج كليم بوستر هو برنامج تدريبي لخوارزميات الذكاء الاصطناعي على مجموعات بيانات ضخمة من الادعاءات التي تم التحقق منها، باستخدام معالجة اللغة الطبيعية لتقييم البيانات للتحقق من صحتها. والهدف هو وضع علامة على الادعاءات المشكوك فيها المحتملة حتى يتمكن مدققو الحقائق من البشر من التحقيق فيها بشكل أكبر، وبالتالي تبسيط عملية التحقق. من الناحية النظرية، من المفترض أن يعزز هذا من كفاءة منظمات التحقق من الحقائق ويخفف من طوفان المعلومات المضللة التي تواجهها يوميًا. ومع ذلك، وعلى الرغم من تطوره التقني، فإن كليم بوستر، مثل جميع الأنظمة التي تعمل بالذكاء الاصطناعي، يواجه تحديات هائلة عند تحليل دقائق اللغة البشرية.

السياق هو نقطة ضعف التحقق من الحقائق باستخدام الذكاء الاصطناعي. على عكس البشر، يفتقر الذكاء الاصطناعي إلى فهم فطري للنبرة والسخرية والفروق الدقيقة التاريخية والإطار الإيديولوجي. قد يحمل الادعاء الكاذب من الناحية الفنية غرضًا بلاغيًا، تمامًا كما قد يكون البيان الذي يبدو دقيقًا في عزلة مضللًا عند فصله عن سياقه الأوسع. على سبيل المثال، إذا أكد زعيم سياسي أن إدارته "خلقت وظائف أكثر من أي إدارة أخرى في التاريخ"، فقد يحلل مدقق الحقائق بالذكاء الاصطناعي بيانات التوظيف الخام ويضع علامة على البيان باعتباره مضللاً. ومع ذلك، دون مراعاة الاتجاهات الاقتصادية، أو النمو السكاني، أو التغييرات في أساليب جمع البيانات، يظل تقييم الذكاء الاصطناعي سطحيًا. على النقيض من ذلك، فإن مدققي الحقائق من البشر مجهزون للتنقل بين هذه التعقيدات، بالاستعانة بالمعرفة التاريخية والعوامل الاجتماعية والسياسية وتفسيرات الخبراء.

يكمن تحدٍ آخر في ضعف الذكاء الاصطناعي تجاه التحيزات المشفرة داخل بيانات التدريب الخاصة به. يتعلم مدققو الحقائق بالذكاء الاصطناعي من أحكام التحقق من الحقائق السابقة، ومصادر الإعلام، والأنماط اللغوية، وكلها عرضة للتحيزات السياسية أو الثقافية أو الإيديولوجية. في عام 2021، وجدت دراسة نُشرت في مجلة Nature Machine Intelligence أن مدققي الحقائق الخوارزميين غالبًا ما يعكسون تحيزات مجموعات بيانات التدريب الخاصة بهم، مما يزيد من المخاوف بشأن العدالة والنزاهة. إذا كان نموذج الذكاء الاصطناعي يبرز بشكل غير متناسب ادعاءات من طيف سياسي واحد بينما يتجاهل التشوهات المماثلة من طيف آخر، فإنه يخاطر بتقويض الثقة العامة بدلاً من تعزيزها.

إن حالة مبادرة التحقق من الحقائق التي أطلقتها فيسبوك توضح هذه المزالق بشكل أكبر. في محاولة للحد من المعلومات المضللة، استخدم فيسبوك أنظمة آلية إلى جانب المراجعين البشريين. ومع ذلك، فإن التعديل الذي يقوده الذكاء الاصطناعي أساء تفسير السخرية بشكل متكرر، ووضع علامة على الاقتباسات التاريخية على أنها مضللة، وكافح مع المعاني المتعددة للخطاب السياسي. أظهر الجدل المحيط بالتحقق من صحة معلومات كوفيد-19 هذه العيوب بشكل واضح. في أوائل عام 2021، وضعت أنظمة الذكاء الاصطناعي علامات على المناقشات حول فرضية تسرب المختبر باعتبارها معلومات مضللة تستند إلى الإجماع العلمي السائد. بعد أشهر، عندما تطور الرأي العلمي، تم التشكيك في العلامات السابقة، مما يسلط الضوء على جمود الذكاء الاصطناعي مقارنة بقدرة مدققي الحقائق البشريين على التكيف.

وعلى الرغم من هذه القيود، يظل الذكاء الاصطناعي أداة لا تقدر بثمن في مكافحة المعلومات المضللة ــ شريطة أن يتم استخدامه كآلية مساعدة، وليس آلية استبدادية. ويقدم نموذج هجين، حيث يحدد الذكاء الاصطناعي الادعاءات التي قد تشكل مشكلة ليراجعها خبراء بشريون، النهج الأكثر وعدا. ويمكّن هذا التآزر مدققي الحقائق من الاستفادة من القوة الحسابية للذكاء الاصطناعي مع تعويض نقاطه العمياء السياقية. وعلاوة على ذلك، يهدف البحث الجاري في مجال الذكاء الاصطناعي القابل للتفسير إلى تحسين قدرة الذكاء الاصطناعي على تقديم مبررات لتقييماته، وبالتالي زيادة الشفافية وثقة المستخدم.

ويظل السؤال حول ما إذا كان الذكاء الاصطناعي قادرا على استبدال مدققي الحقائق البشر بشكل كامل مفتوحا. إن تقاطع اللغة والحقيقة والتفسير هو مجال إنساني عميق، مقاوم للمنطق الجامد للخوارزميات. وكما لاحظ الفيلسوف لودفيج فيتجنشتاين في كتابه "التحقيقات الفلسفية"، فإن المعنى لا يتحدد بالكلمات وحدها بل من خلال استخدامها في سياق معين. لذلك، فإن التحقق من الحقائق يتعلق بفهم النية والمضمون بقدر ما يتعلق بالتحقق من البيانات الخام.

في الواقع، لا يكمن وعد التحقق من الحقائق المدعوم بالذكاء الاصطناعي في استبدال الحكم البشري بل في تعزيزه. وإذا تم نشر أدوات مثل كليم بوستر بحكمة، فيمكن أن تعمل كحلفاء لا غنى عنهم في السعي وراء الحقيقة، حيث تقدم الكشف السريع والتحليل الأولي. ومع ذلك، في غياب الإشراف البشري، قد تؤدي قيود الذكاء الاصطناعي إلى تفاقم المشكلة ذاتها التي يسعى إلى حلها. في العصر الرقمي، حيث غالبًا ما يكون التمييز بين الحقيقة والزيف غير واضح بسبب الحجم الهائل من المعلومات، فإن إيجاد توازن بين الأتمتة والتمييز البشري ليس أمرًا مستحسنًا فحسب - بل إنه أمر ضروري.

Posted in: مقالات إعلامية