يواجه بوت الدردشة Grok، التابع لشركة xAI المملوكة للملياردير إيلون ماسك، انتقادات حادة بعد إطلاق ميزة جديدة تتيح لمستخدمي منصة “إكس” (X) تعديل الصور فورياً باستخدام الذكاء الاصطناعي. الميزة، التي تفتقر إلى الضوابط الأمنية الكافية، سمحت بإنشاء صور غير أخلاقية ومخلة بالآداب لمستخدمين عاديين وقادة عالميين وحتى أطفال، وذلك دون موافقتهم أو علمهم.
غياب القيود الأخلاقية وانتهاك الخصوصية
أصبح بإمكان مستخدمي منصة “إكس” الآن تعديل أي صورة منشورة دون الحاجة لإذن صاحبها الأصلي، والأخطر من ذلك أن النظام لا يرسل أي إخطار لصاحب الصورة عند تعديلها. ووفقاً لتقارير تقنية، يبدو أن Grok يفتقر إلى حواجز الحماية (Guardrails) اللازمة لمنع إنتاج محتوى جنسي صريح. وشهدت الأيام القليلة الماضية طوفانًا من الصور المفبركة التي تظهر فيها نساء وأطفال في أوضاع مخلة أو ملابس غير لائقة، بالإضافة إلى استخدام صور مشاهير وسياسيين في سياقات مشابهة.
وأفادت شركة Copyleaks المتخصصة في مصادقة المحتوى الرقمي، بأن هذا التوجه بدأ مع منشئي محتوى البالغين الذين طلبوا من Grok صوراً مثيرة لأنفسهم، ثم سرعان ما انتقل الأمر لاستخدامه ضد مستخدمين آخرين، معظمهم من النساء، اللواتي لاحظن طفرة هائلة في إنشاء صور “التزييف العميق” (Deepfake) الخاصة بهن دون موافقتهن.
استهداف القصر ومخاوف قانونية دولية
تجاوزت الانتهاكات كل الحدود بوصولها إلى الأطفال، حيث تم رصد حالات قام فيها Grok بتعديل صور لفتيات قاصرات ليظهرن بملابس فاضحة وأوضاع موحية. وفي رد فعل مثير للجدل، وعندما طُلب من البوت تقديم اعتذار عن أحد الحوادث، وصف Grok الأمر بأنه “فشل في الضمانات الأمنية” وأنه قد ينتهك سياسات الشركة والقوانين الأمريكية المتعلقة بحماية الأطفال. ومع ذلك، يظل رد البوت مجرد استجابة آلية لا تعكس بالضرورة إجراءات فعلية من شركة xAI، التي ردت على طلبات التعليق بعبارة مقتضبة: “وسائل الإعلام القديمة تكذب”.
إيلون ماسك وتطبيع المحتوى الصريح
يبدو أن إيلون ماسك نفسه ساهم في إثارة هذه الموجة، بعد أن طلب من Grok تعديل صورة شهيرة للممثل بن أفليك واستبدالها بصورته الشخصية وهو يرتدي “بيكيني”. ومنذ ذلك الحين، انتشرت صور مفبركة مماثلة لقادة مثل كيم جونغ أون ودونالد ترامب. وفي تعليق ساخر على هذه الظاهرة، أعاد ماسك نشر صورة لـ “محمصة خبز” ترتدي ملابس بحر، معلقاً: “يمكن لـ Grok وضع بيكيني على أي شيء”.
ورغم أن بعض هذه الصور جاءت في سياق السخرية، إلا أن الكثير منها صُمم لإنتاج محتوى إباحي صريح. وقد أكدت تجارب تقنية أن البوت استجاب لطلبات إزالة ملابس أو استبدال ملابس أطفال قصر بملابس بحر، وهو ما يضع منصة “إكس” في مواجهة مباشرة مع معايير السلامة الرقمية العالمية.
مخاطر “التزييف العميق” والمسؤولية التقنية
تُسوق شركة xAI منتجاتها من الذكاء الاصطناعي بوصفها “أقل قيوداً” مقارنة بالمنافسين مثل جوجل وOpenAI، الذين يفرضون رقابة صارمة على المحتوى غير اللائق (NSFW). ومع ذلك، يحذر الخبراء من أن هذا التوجه يغذي ظاهرة التزييف العميق غير الرضائي التي تستهدف النساء والطلاب بشكل خاص. وتشير استطلاعات حديثة إلى أن 40% من الطلاب في الولايات المتحدة على علم بوجود صور تزييف عميق لأشخاص يعرفونهم، مما يبرز الحاجة الملحّة لتشريعات تضبط هذه التقنيات وتمنع استغلالها في انتهاك كرامة الأفراد وخصوصيتهم.
المصدر: The Verge
اترك تعليقاً