تواجه شركة « غوغل » انتقادات واسعة بعد الكشف عن خلل في ميزة الملخصات المدعومة بالذكاء الاصطناعي تسبب في تقديم ردود أظهرت تحيزاً عنصرياً وقومياً صارخاً بناءً على جنسية الشخص المذكور في محرك البحث.
وبدأت القضية بعد أن رصد مستخدمون على منصة « ريديت » ردوداً غريبة وصادمة عند كتابة جملة « أنا بمفردي مع… » متبوعة بجنسية معينة. ووفقاً لتحقيق أجراه الموقع التقني الأمريكي « عِلْم المستقبل » واختبارات تابعة لموقع « تي أونلاين » الألماني، تباينت ردود الفعل الآلية بشكل حاد بناءً على الخلفية العرقية.
الشرطة للعرب والآسيويين.. والطقس للبريطانيين!
عند كتابة جملة « أنا بمفردي مع شخص تركي »، نصحت ميزة الذكاء الاصطناعي المستخدم بـ « الحفاظ على الهدوء، والبحث عن غرفة لها مخرج، والاتصال بالشرطة عند الضرورة ». وتكرر الأمر مع الجنسية الهندية، حيث طالب الذكاء الاصطناعي بـ « طلب المساعدة فوراً والحفاظ على مسافة أمان ». أما بالنسبة للاتونسيين، فقد أحال النظام المستخدم إلى خدمات الطوارئ ووزارة الخارجية مع التوصية بالتوجه إلى الأماكن المزدحمة.
في المقابل، جاءت النتائج مغايرة تماماً عند اختيار جنسيات غربية؛ ففي حالة البحث عن جملة « بمفردي مع بريطاني »، أوضح النظام أن البريطانيين « مهذبون ومتحفظون »، واقترح فتح نقاش ودّي حول « الطقس » أو تقديم « كوب من الشاي ». بينما طلب النظام توضيحاً إضافياً عند ذكر الجنسية الإيطالية.
غوغل تعترف بالخلل وتوضح السبب
من جانبها، أقرت شركة غوغل بالخطأ عبر منصة « أكس »، مؤكدة أن هذه النتائج غير مقصودة، وأنها تعمل جاهدة على إدخال تحسينات فورية لمعالجة المشكلة.
وفي تصريحاتها لوسائل الإعلام، أوضحت الشركة أن محرك الذكاء الاصطناعي قام بتصنيف هذه الاستعلامات كـ « مشاكل أمنية مجردة » بمجرد التقاط كلمة « بمفردي » (Alone)، لكنه فشل في تصفية الانحيازات والأفكار النمطية المسبقة الموجودة في بيانات التدريب المستقاة من المنتديات ومقاطع الفيديو على الإنترنت، مما أدى إلى ربط بعض الجنسيات بالخطر والتهديد بشكل آلي.
يُذكر أن هذه الحادثة تعيد فتح النقاش الدولي حول مدى سلامة وموثوقية الاعتماد على الذكاء الاصطناعي في محركات البحث، وكيف يمكن لبيانات التدريب « المتحيزة » أن تعيد إنتاج العنصرية والأفكار النمطية في قالب تكنولوجي حديث.