خطأ كارثي في برمجيات التعرف على الوجه: اعتقال مواطن بريء بسبب "خوارزمية"
في واقعة تثير تساؤلات حادة حول دقة وموثوقية الذكاء الاصطناعي في العمل الشرطي، تعرض الشاب البريطاني "ألفي شودري" لتجربة مريرة بعد أن ألقت السلطات القبض عليه من منزله نتيجة خطأ تقني فادح في برمجيات التعرف على الوجه.
10 ساعات خلف القضبان بسبب تشابه وهمي
أفاد تقرير نشرته صحيفة ذا غارديان (The Guardian) أن الشرطة البريطانية احتجزت شودري (26 عاماً) لمدة تجاوزت عشر ساعات قبل اكتشاف الخطأ وإطلاق سراحه. والسبب يعود إلى منظومة تقنية طورتها شركة كوجنيتك (Cognitec) الألمانية، والتي وضعت شودري في مسرح جريمة سرقة بمدينة لم يزرها من قبل، تبعد أكثر من 160 كيلومتراً عن محل إقامته.
المثير للدهشة أن الاعتقال تم رغم الاختلاف الواضح في الهيئة والشكل بين شودري والمشتبه به الظاهر في مقاطع الفيديو، مما دفع الشاب للمطالبة بتعويضات عن الأضرار النفسية والقانونية التي لحقت به.
أرقام صادمة حول دقة الخوارزميات والانحياز العرقي
تعتمد الشرطة البريطانية بشكل مكثف على التكنولوجيا الحديثة، إلا أن الأرقام تكشف عن فجوة مخيفة في دقة هذه الأنظمة:
- كثافة الاستخدام: تُجري البرمجية أكثر من 25 ألف عملية بحث شهرياً.
- قاعدة البيانات: يتم البحث داخل مكتبة صور ضخمة تضم 19 مليون صورة للمشتبه بهم.
- الانحياز العرقي: كشف التقرير أن نسبة الخطأ في التعرف على ملامح الأقليات تصل إلى 5%، مقارنة بنحو 0.04% فقط لدى أصحاب البشرة البيضاء.
سجل حافل بالأخطاء: من بريطانيا إلى أستراليا
لم تكن حادثة شودري هي الأولى من نوعها لشركة "كوجنيتك". فقد سبق وأن واجهت الشركة انتقادات لاذعة أدت إلى إيقاف عمل برمجياتها في مناطق أخرى:
- إيقاف الخدمة في أستراليا: قامت شرطة نيو ساوث ويلز بإيقاف البرمجية نهائياً في أبريل 2025.
- اعتقال القاصرين: تسببت التقنية سابقاً في اعتقال طفل يبلغ من العمر 14 عاماً بالخطأ.
- خوارزميات عتيقة: يعزو الخبراء هذه الإخفاقات إلى استخدام خوارزميات قديمة لم يتم تحديثها لأكثر من 11 عاماً، مما جعل نتائجها غير موثوقة.
هل التحديثات الأخيرة كافية؟
رغم هذه السلسلة من الإخفاقات، أشار الموقع الرسمي لشركة كوجنيتك إلى أنها قامت بتحديث شامل لبرمجياتها وخوارزميات التعرف على الوجه في فبراير الجاري. ومع ذلك، تظل التساؤلات قائمة حول مدى أخلاقية الاعتماد الكلي على هذه التقنيات في اتخاذ قرارات مصيرية تتعلق بحرية الأفراد وسلامة المجتمع.
المصدر: الجزيرة
اترك تعليقاً