قررت شركة غوغل سحب ميزة “نظرة عامة بالذكاء الاصطناعي” (AI Overviews) لبعض عمليات البحث المتعلقة بالمجال الطبي، وذلك بعد كشف تقارير استقصائية عن تقديم الأداة لمعلومات مضللة وغير دقيقة قد تشكل خطراً حقيقياً على صحة المستخدمين.
تحقيقات تكشف عن نصائح طبية كارثية
جاء هذا التحرك بعد تحقيق نشرته صحيفة “ذا غارديان”، أظهر أن محرك البحث غوغل كان يقدم نصائح طبية خاطئة تماماً عبر ميزة الذكاء الاصطناعي في الرد على استفسارات طبية محددة. وفي إحدى الحالات التي وصفها الخبراء بأنها “خطيرة للغاية”، نصحت الأداة مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو ما أكد الأطباء أنه عكس التوصيات الطبية الصحيحة تماماً لهذه الحالات، وقد يؤدي إلى زيادة خطر الوفاة لدى المرضى.
وفي مثال آخر وُصف بأنه “مثير للقلق”، قدمت الميزة معلومات مغلوطة حول اختبارات وظائف الكبد الحيوية، مما قد يوهم الأشخاص المصابين بأمراض كبدية خطيرة بأن نتائجهم طبيعية، مما يؤخر سعيهم للحصول على العلاج اللازم.
تعطيل الميزة ورد شركة غوغل
اعتباراً من صباح اليوم، تم تعطيل ميزة “نظرة عامة بالذكاء الاصطناعي” تماماً للأسئلة الحساسة مثل “ما هو النطاق الطبيعي لاختبارات دم الكبد؟”. وفي تصريح لموقع “ذا فيرج”، قال ديفيس تومسون، المتحدث باسم غوغل: “نحن نستثمر بشكل كبير في جودة ميزة (AI Overviews)، خاصة في مواضيع مثل الصحة، والغالبية العظمى من النتائج تقدم معلومات دقيقة”.
وأضاف تومسون أن الفريق السريري الداخلي في الشركة راجع الحالات المبلغ عنها، وزعم أنه في كثير من الأحيان لم تكن المعلومات غير دقيقة وكانت مدعومة بمواقع عالية الجودة. ومع ذلك، أوضح أن الشركة تعمل على إجراء تحسينات واسعة في الحالات التي تفتقر فيها النتائج إلى السياق الكافي، وتتخذ إجراءات صارمة بموجب سياساتها عند الضرورة.
سلسلة من الأزمات المتكررة
لا تعد هذه الواقعة الأزمة الأولى التي تلاحق ميزة غوغل الجديدة؛ حيث تعرضت الميزة سابقاً لسخرية وانتقادات واسعة بعد أن نصحت المستخدمين بوضع “الغراء” على البيتزا وتناول “الصخور”. وتأتي هذه التطورات في وقت تواجه فيه غوغل تحديات قانونية ودعاوى قضائية متعددة تتعلق بدقة وموثوقية أدوات الذكاء الاصطناعي التوليدي الخاصة بها، مما يضع الشركة تحت ضغط متزايد لضمان سلامة المعلومات قبل طرحها للجمهور.
المصدر: The Verge
اترك تعليقاً