الذكاء الاصطناعي يعزز انتشار المعلومات المضللة مع تكرارها بشكل متزايد

دراسة جديدة تكشف أن نماذج الذكاء الاصطناعي الحالية تميل إلى تصديق المعلومات الخاطئة وتعزيزها كلما تكررت أمامها، مما يرفع احتمال انتشار الأخبار الكاذبة عبر المنصات الرقمية بسرعة أكبر من السابق.

أظهرت الدراسة أن أنظمة الذكاء الاصطناعي لا تتحقق من صحة المعلومات بالاستقلالية المتوقعة، بل تستقطب من الأنماط الإحصائية في بيانات التدريب، مما يجعلها فريسة سهلة لتأثير التكرار — وهي ظاهرة نفسية معروفة حيث يزداد شعور الناس بصدق المعلومة كلما سمعوها أكثر، حتى لو كانت خاطئة.

التأثيرات الاقتصادية على الثقة الرقمية والأسواق

تحمل هذه النتائج مضامين مباشرة على قطاع الإعلام الرقمي والتسويق والإعلانات في منطقة الخليج، حيث بدأت الشركات والمؤسسات المالية تعتمد بشكل متزايد على أدوات الذكاء الاصطناعي للتنقيب عن البيانات واتخاذ القرارات الاستثمارية. خطأ في التحقق من المعلومات قد يؤدي إلى قرارات استثمارية خاطئة، أو إلى تضرر سمعة العلامات التجارية بشكل فوري وواسع عبر المنصات الاجتماعية.

مثل هذه الضعفيات يشير إلى الحاجة الملحة لتطوير آليات تدقيق حقائق مدمجة في أنظمة الذكاء الاصطناعي قبل استخدامها في سياقات حساسة مثل الإعلام والمالية. المنطقة تشهد نقلة سريعة نحو الاقتصاد الرقمي، والاعتماد على أنظمة ذكية بدون درجات عالية من الموثوقية قد يقوض جهود التحول الرقمي الجاري.

نحو معايير أقسى في تطوير النماذج اللغوية

الدراسة تشدد على ضرورة مراجعة عملية تطوير النماذج اللغوية الكبرى قبل إطلاقها للاستخدام العام، خاصة في الأسواق النامية حيث يتزايد الاعتماد على الذكاء الاصطناعي دون رقابة كافية. خبراء يؤكدون أن الحل يكمن في دمج خطوات التحقق من الحقائق والمصادر بشكل صريح في خوارزميات التدريب، وليس الاعتماد فقط على البيانات الإحصائية.

إعداد: هيئة تحرير الابتكار نيوز. أُعد هذا المحتوى من خلال جمع ومراجعة وإعادة تحرير المعلومات المنشورة في المصادر المشار إليها أدناه.

المصدر: صحيفة الخليج