احصل على ملخص المحرر مجانًا
تختار رولا خلف، رئيسة تحرير صحيفة الفاينانشال تايمز، قصصها المفضلة في هذه النشرة الأسبوعية.
تعمل شركة جوجل على إجراء تغييرات على محرك البحث الخاص بها في محاولة للتعامل مع المواد الإباحية المزيفة، حيث تكافح صناعة التكنولوجيا مع التأثيرات الاجتماعية بعيدة المدى للذكاء الاصطناعي التوليدي.
تعني التطورات في مجال الذكاء الاصطناعي التوليدي أن الصور المزيفة أصبحت أكثر واقعية وأسهل في الإنشاء، مما دفع الخبراء إلى التحذير من أن استخدام الأشخاص، دون علمهم أو موافقتهم، في الصور الإباحية أصبح أكثر انتشارًا.
تشمل الإجراءات التي قدمتها شركة التكنولوجيا العملاقة يوم الأربعاء تغييرات من شأنها أن تجعل من الأسهل على ضحايا المواد الإباحية المزيفة إزالة مقاطع الفيديو والصور الخاصة بهم من الإنترنت.
يتعين على الأفراد حاليًا تقديم طلبات إزالة لكل عنوان موقع ويب أو عنوان URL. ستؤدي التغييرات الأخيرة إلى حذف النتائج الصريحة لمصطلحات البحث ذات الصلة التي تتضمن اسم الشخص. كما سيعمل عملاق البحث على خفض تصنيف المواقع التي تلقت عددًا كبيرًا من إشعارات الإزالة.
وقالت جوجل في منشور على مدونتها يوم الأربعاء: “بالإضافة إلى ذلك، عندما يقوم شخص ما بإزالة صورة بنجاح من البحث بموجب سياساتنا، فإن أنظمتنا سوف تبحث عن – وتزيل – أي نسخ مكررة من تلك الصورة نجدها”.
كانت شركات مثل جوجل وميتا وإكس تكافح جاهدة لمعالجة التزييف العميق على منصاتها – الصور والفيديو والصوت التي يمكن إنشاؤها باستخدام الذكاء الاصطناعي على غرار الأفراد من القطاعين الخاص والعام. في الأسبوع الماضي، دعت هيئة الرقابة المستقلة في ميتا الشركة إلى تعزيز قواعدها بشأن إزالة المواد الإباحية المزيفة.
قالت إيما هيغام، مديرة المنتجات في جوجل والتي شاركت في مكافحة الشركة لمقاطع الفيديو المزيفة: “نحن في خضم تحول تكنولوجي. وبينما نراقب أنظمتنا الخاصة، لاحظنا ارتفاعًا في طلبات الإزالة لهذا النوع من المحتوى”.
تخضع هذه القضية لتدقيق من جانب الجهات التنظيمية: فقانون السلامة على الإنترنت في المملكة المتحدة، الذي أقر في أكتوبر/تشرين الأول ويعتبر من أكثر القوانين صرامة، يجعل من غير القانوني نشر مقاطع إباحية مزيفة دون موافقة الطرفين. وفي الولايات المتحدة، تستهدف التشريعات في العديد من الولايات أولئك الذين ينشئون ويشاركون محتوى مزيفًا صريحًا.
وقالت كلير ماكجلين، أستاذة القانون بجامعة دورهام التي تدرس اللوائح المتعلقة بالمواد الإباحية، إن محرك البحث كان بطيئا في منع انتشار مثل هذا المحتوى على الإنترنت.
وقالت: “إن تأخر جوجل في اتخاذ هذه الخطوات الواضحة والضرورية للحد من الإساءة الجنسية باستخدام مقاطع الفيديو المزيفة أمر لا يمكن تبريره. تظل جوجل مسؤولة عن تسهيل الارتفاع الهائل في الإساءة الجنسية باستخدام مقاطع الفيديو المزيفة من خلال تصنيفها الرفيع لتطبيقات ومواقع الويب والبرامج التعليمية التي تستخدم مقاطع الفيديو المزيفة لسنوات عديدة”.
وقالت الشركة إنها خفضت كمية المحتوى المزيف الصريح الذي ظهر في نتائج البحث بنسبة 70 في المائة منذ بداية العام من خلال تغييرات أولية في السياسة وتحديثات محدودة لمحرك البحث الخاص بها.
ومع ذلك، قالت الشركة إن هناك قيودًا على تحديثات السياسة. وقال هيغام إن موفري الوسائط الخارجية لم يشاركوا دائمًا بيانات الفيديو مع Google، مما يجعل من المستحيل اكتشاف تكرار محتمل.
وأضافت جوجل أنه قد تكون هناك “مقايضات” بالنسبة للممثلين البالغين الذين يرغبون في مشاركة محتوى للبالغين بالتراضي على محرك البحث مع تصفية المواد غير التوافقية.
ستؤدي التعديلات التي أجرتها جوجل على نظام ترتيب نتائج البحث إلى خفض رتبة المواقع الإلكترونية التي ترتبط بمحتوى للبالغين تم إنشاؤه بواسطة الذكاء الاصطناعي دون موافقة المستخدمين، في حين تروج لمواقع “عالية الجودة” غير الصريحة، بما في ذلك المقالات الإخبارية.
قال هيغام: “هذه تحديات تقنية لم يتم حلها بعد بالنسبة لمحركات البحث. لذا فإننا نقترب من نقطة نشعر فيها بأننا قادرون على تحقيق المزيد من النجاح”.
تطبق الشركة سياسات واسعة النطاق لإزالة مواد الاعتداء الجنسي على الأطفال، وفي هذا العام حظرت الإعلان عن المواد الإباحية المزيفة.
وتتوقف سياساتها الأخيرة عن إلغاء فهرسة مواقع التزييف العميق الشهيرة من نتائج البحث تمامًا، وهي الخطوة التي تدفع إليها مجموعات المناصرة مثل #MyImageMyChoice.
قالت جوجل إن إلغاء إدراج المواقع بالكامل قد يؤدي إلى منع الوصول إلى معلومات مهمة، مثل كيفية إزالة المحتوى من موقع الويب المضيف.