الخط العلوي
أعلنت شركة Elon Musk’s X يوم الأربعاء أنها ستقيد أداة توليد الصور الخاصة ببرنامج الدردشة الآلي Grok من إنشاء صور لأشخاص حقيقيين في ملابس كاشفة، بعد عدة أسابيع من تعرضها لانتقادات بسبب إنشاء صور جنسية للأطفال وعري غير رضائي.
حقائق أساسية
وفي منشور على حساب السلامة الرسمي لـ X، قالت المنصة إنها “نفذت إجراءات تكنولوجية لمنع حساب Grok من السماح بتحرير صور لأشخاص حقيقيين يرتدون ملابس كاشفة مثل البيكينيات”.
وقالت الشركة إن هذا القيد سينطبق على جميع مستخدمي Grok، بما في ذلك المشتركين الذين يدفعون رسومًا.
وقالت الشركة أيضًا إنها تقصر “إنشاء الصور والقدرة على تحرير الصور” عبر حساب Grok على المشتركين المدفوعين فقط.
ومع ذلك، ظلت القدرة على إنشاء الصور متاحة للمستخدمين المجانيين على موقع Grok الإلكتروني في وقت النشر.
وأضافت الشركة أيضًا أنها كانت تحظر جغرافيًا جميع المستخدمين من إنشاء “صور لأشخاص حقيقيين يرتدون البيكينيات والملابس الداخلية والملابس المماثلة عبر حساب Grok وفي Grok in X في تلك الولايات القضائية حيث يكون ذلك غير قانوني”.
ولم يحدد البيان الدول التي ستتأثر بالحظر الجغرافي.
هل توقف Grok عن إنشاء وتحرير الصور الجنسية؟
أظهر البحث في الجدول الزمني الأخير لـ Grok حالة واحدة على الأقل حيث التزمت بطلب من مستخدم واحد على الأقل لتغيير صورة رئيس الوزراء البريطاني كير ستارمر، واستبدال بدلته بالبيكيني. ذكرت The Verge أيضًا أنه لا يزال “من السهل للغاية خلع ملابس النساء وتعديلهن في أوضاع جنسية باستخدام تطبيقات الهاتف المحمول أو مواقع الويب X وGrok”. وأشار مراسل من المنفذ الموجود في المملكة المتحدة إلى أنها لم تُمنع من استخدام التطبيق أو “إنشاء صور مزيفة ذات طابع جنسي لنفسها”.
ماذا قال إيلون ماسك؟
في وقت سابق من يوم الأربعاء، بدا أن مالك X، Elon Musk، يشكك في صحة التقارير التي تشير إلى أن X كان ينشئ مواد الاعتداء الجنسي على الأطفال (CSAM)، وكتب أنه “ليس على علم بأي صور عارية لقاصرين أنشأها Grok. حرفيًا صفر”. وأضاف: “من الواضح أن Grok لا يقوم بإنشاء صور تلقائيًا، فهو يفعل ذلك فقط وفقًا لطلبات المستخدم. وعندما يُطلب منه إنشاء صور، فإنه سيرفض إنتاج أي شيء غير قانوني، حيث أن مبدأ التشغيل في Grok هو الانصياع لقوانين أي بلد أو ولاية معينة.” ثم بدا أن الملياردير يلقي باللوم على مستخدمي المنصة، قائلًا: “قد تكون هناك أوقات يؤدي فيها الاختراق التنافسي لمطالبات Grok إلى حدوث شيء غير متوقع. إذا حدث ذلك، فسنصلح الخلل على الفور”.
اقتباس حاسم
وقال رئيس الوزراء البريطاني يوم الأربعاء إن شركة X تعمل على الالتزام بالقانون البريطاني من خلال منع توليد الصور الجنسية غير الرضائية. “لقد أوضحنا لـ X أن هذه الصور غير قانونية وتستحق الشجب وتحتاج إلى التعامل معها. لقد أُبلغت أن X تعمل لضمان الامتثال الكامل لقانون المملكة المتحدة. إذا كان الأمر كذلك، فهذا موضع ترحيب، لكننا لن نتراجع – يجب عليهم التحرك”.
ما الذي يجب الانتباه إليه؟
وفي وقت سابق من يوم الأربعاء، أعلن المدعي العام في كاليفورنيا، روب بونتا، أن مكتبه فتح تحقيقًا في قضية X بشأن “انتشار المواد الجنسية الصريحة غير التوافقية التي تم إنتاجها باستخدام Grok”. واتهم الإعلان جهاز XAI الخاص بـ Musk بـ “تسهيل إنتاج صور حميمة غير مرغوب فيها على نطاق واسع والتي يتم استخدامها لمضايقة النساء والفتيات عبر الإنترنت”. وقال بونتا في بيان إن مكتبه تلقى “سيلا من التقارير” بشأن هذا الأمر وإن التحقيق “سيحدد ما إذا كان جهاز XAI قد انتهك القانون وكيف ذلك”.
مزيد من القراءة
يلقي جروك اللوم على “الهفوات في الضمانات” بعد أن نشر برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي صورًا جنسية للأطفال (فوربس)