عقدت صحيفة فايننشال تايمز أ مستقبل قمة الذكاء الاصطناعي في لندن يومي 6 و7 نوفمبر. ننشر أدناه نصًا منقحًا لمحادثة حول الذكاء الاصطناعي والسياسة والمعركة ضد المعلومات المضللة بين خافيير إسبينوزا، مراسل “فاينانشيال تايمز” في الاتحاد الأوروبي الذي يغطي المنافسة والسياسة الرقمية، وإليزابيث دوبوا، الأستاذة في مركز القانون والتكنولوجيا والمجتمع في جامعة كاليفورنيا. أوتاوا.
إليزابيث دوبوا: أقوم بإجراء أبحاث حول الاستخدامات السياسية للتكنولوجيا الجديدة، وهذا يشمل الذكاء الاصطناعي، ولكن أيضًا وسائل التواصل الاجتماعي ومحركات البحث وجميع أنواع تقنيات الاتصال الأخرى التي تتسلل إلى أنظمتنا الانتخابية. ولذلك، كتبت مؤخرًا تقريرًا يبحث في استخدامات الذكاء الاصطناعي في السياسة الكندية. ولكن، كما ذكرت، من الواضح أنني كنت أتابع الانتخابات الأمريكية لمعرفة ما هو على أعتابها – وما يمكن أن نتوقعه من الآخرين الذين يتقدمون.
خافيير اسبينوزا: وأعتقد أن هذا هو التوقيت المثالي لمحادثتنا. اليوم، لدينا أخبار جديدة، باستثناء إعادة انتخاب ترامب. . . لقد برز إيلون ماسك، من وجهة نظري، باعتباره الشخصية الكبيرة الأخرى، والشخصية، واللاعب الذي له تأثير. لا أعرف إلى أي درجة، لكنه كان لاعبًا في هذه الانتخابات كما لم نشهده من قبل – أيضًا مع X [formerly Twitter] كمنصة للمساعدة. لا أعرف كم منكم على X، أعلم أن الأعداد تتضاءل، لكن الخوارزمية في ملفي الشخصي على X تبدو كما لو أنني جمهوري. ما هي أفكارك حول هذا؟
الضعف الجنسي: إنه مثال مثير للاهتمام حقًا لأن الأشخاص الذين يملكون الكثير من المال كان لهم تأثير كبير على السياسة الأمريكية لفترة طويلة. هذا ليس جديدا. وشركات وسائل التواصل الاجتماعي هي المتحكم في المعلومات، فهي تقرر ما يجب تحفيزه. . . ما يجب تحديد أولوياته في خلاصتك. وهذا أيضا ليس جديدا. لكن مزيج هذه الأشياء قد تم بالفعل بطريقة لا أعتقد أننا كنا مستعدين لها بالكامل أو نتوقعها تمامًا.
لقد ذكرت أن خلاصتك تبدو وكأنك جمهوري. ونحن نعلم أن هذا هو الحال في الكثير من خلاصات الأشخاص – على الرغم من وجود أعداد متساوية تقريبًا من الديمقراطيين والجمهوريين الذين نبلغ عنهم من خلال الاستطلاعات أنهم يستخدمون هذه الأدوات. لذلك من المثير للاهتمام حقًا رؤية قوة تلك الخوارزميات. إنه يوضح حقًا أن بيئة المعلومات لدينا يتم التحكم فيها بواسطة هذه الأنظمة، وأحيانًا بواسطة أشخاص معينين عندما يستحوذون على شركة كبيرة، على سبيل المثال.
جي: وهل تعتقد أننا نتعلم للتو عن تأثيرات X و Musk على هذه الانتخابات؟ هل تعتقدين أن الأمر يتعلق بعدد الأشخاص الذين تمكن من الوصول إليهم عبر المنصة، أم أن الأمر يتعلق بتعبئة الأشخاص الذين تحولوا بالفعل؟ ما هي أفكارك حول . . . استخدام هذه المنصة وأيضا المعلومات الخاطئة؟
الضعف الجنسي: نعم، أعتقد أن X هو مثال على النوع الأكبر من محادثة المعلومات الخاطئة، حيث أن الكثير من المعلومات الخاطئة والمعلومات المضللة الأكثر فعالية الآن تتعلق في الواقع بتعبئة مجتمعات معينة وإقناع الناس في مجموعات محددة بالاعتقاد بشيء أو آخر. لا يتعلق الأمر، في هذه المرحلة، بخلق سوء فهم جماعي للواقع، بل يتعلق الأمر بجعل بعض الأشخاص النشطين للغاية، والذين لديهم صوت عالٍ، يشاركون هذه المعلومات ويعيدون مشاركتها مرارًا وتكرارًا.
جي: كنت أجري مناقشة في وقت سابق من هذا الصباح مع شخص من الجزء التنظيمي للحكومة في المملكة المتحدة والذي كان يقول، في بحثهم، أنهم لاحظوا أن الناس قد يبحثون عن التعرض لمعلومات مزيفة عميقة أو معلومات مضللة عن قصد ويستبعدون ما يمكن التحقق منه. . . . معلومات معقدة للغاية تنتجها صحيفة فاينانشيال تايمز ووسائل الإعلام الأخرى كل يوم. هل تناولت هذا في بحثك؟
الضعف الجنسي: نعم. لذا، أحد الأشياء المتعلقة بأبحاث المعلومات المضللة هو أننا نعتقد حقًا أن الجميع سيرغبون في الحصول على محتوى حقيقي، أليس كذلك؟ إذا كان لدينا ما يكفي من المحتوى عالي الجودة، فسيكون الأمر جيدًا. لكن الحقيقة هي أن الناس يحبون الترفيه. الناس يحبون أن يشعروا بالمجتمع. يحب الناس أن يتم دعم أفكارهم وتعزيزها. لذا، هناك مجموعة من الأسباب التي تجعل الناس يختارون عمدًا أو لا يتساءلون عن المعلومات المضللة.
جي: وأعتقد أن هذا النوع من شأنه تضخيم الاستخدام والكفاءة التي نتحدث عنها فيما يتعلق بـ X. ولكن، بالانتقال إلى ما بعد X والانتخابات اليوم، هل يمكنك… . . هل توضح بعض الطرق التي حددت بها الأشخاص أو العملاء أو البلدان التي تستخدم المعلومات الخاطئة وتلعب بالخوارزميات؟
الضعف الجنسي: نعم. لذلك، عندما نفكر في الذكاء الاصطناعي والمعلومات المضللة، فإن الفكرة المباشرة هي “أوه، إنها التزييف العميق”. ومن المؤكد أن التزييف العميق يحدث. لقد رأينا أمثلة، حتى في هذه الانتخابات الأمريكية. لكن استخدام الذكاء الاصطناعي يتجاوز ذلك. الشيء الذي رأيناه ناشئًا هو أن الأشخاص يستخدمون أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT كمحرك بحث، ونحن نعلم أن هذه الأدوات غالبًا ما تكون هلوسة، وغالبًا ما تنتج معلومات تحتوي على معلومات غير دقيقة أو تفتقر إلى المعلومات السياقية.
لذلك ينتهي بك الأمر في كثير من الأحيان بمعلومات مضللة “حقيقية”. ليس هناك نية للإيذاء بالضرورة، لكن مع ذلك يتم إرسال الناس إلى مراكز الاقتراع في اليوم الخطأ، على سبيل المثال.
جي: رائع. هذا صادم للغاية لسماعه. في بحثك، ما الذي يمكن اعتباره الذكاء الاصطناعي في الانتخابات؟ أعطنا المزيد قليلا. . .
الضعف الجنسي: هناك الكثير من البرامج السياسية التي تدمج تقنيات الذكاء الاصطناعي في أنظمتها لمساعدة الحملة على استهداف الناخبين المحتملين أو تعريفهم بشكل أفضل – والأشخاص الذين لا ينبغي الاهتمام بهم.
لدينا أيضًا أمثلة على استخدام الذكاء الاصطناعي في الترجمة أو إنشاء مكالمات آلية لتسهيل الوصول إلى أكبر عدد ممكن [numbers of] الناس، والذي يمكن أن يكون جيدًا – يمكننا أن نرى أن هذا شيء ديمقراطي مفيد للغاية إذا كنت تقوم بإشراك المجتمعات التي تتحدث لغات معينة ربما لا يتحدثها أي مرشح. ولكن يمكن أيضًا أن يكون خادعًا ومربكًا جدًا للناس.
ومن ثم، لدينا هذه المجموعة الكاملة من وكلاء المحادثة أو الروبوتات الناطقة التي بدأنا نرى ظهورها. في الانتخابات الرئاسية المكسيكية الأخيرة، على سبيل المثال، كان هناك مرشح رئاسي أنشأ “روبوتًا متحدثًا” مدعومًا بالذكاء الاصطناعي ليكون متحدثًا باسمها وحملتها الانتخابية. وهذا يغير حقًا مشهد المعلومات.
جي: ما مدى فعالية ذلك؟ هل تم انتخاب المرشح نتيجة لذلك؟
الضعف الجنسي: لم يتم انتخاب المرشح. مع كل هذه الأنواع من الأدوات، سيكون من الصعب حقًا القول بأن الذكاء الاصطناعي هو الشيء الذي يجعل شخصًا يُنتخب أو لا يجعل شخصًا يُنتخب. هناك العديد من الإصدارات المختلفة لهذه الأنواع من الأدوات، وهي مدمجة في هياكل الحملة المعقدة حقًا.
جي: لكن ما نعرفه هو أنه يغير الطريقة التي يمكننا بها التفاعل مع المرشحين السياسيين. هل تعتقدون – وأنا أعلم أنه يتعين علينا إجراء البحث ولكن دعونا نتكهن قليلاً… حتى نتمكن… على الأقل من التفكير في هذه الأشياء… أعني أننا نتحدث عن الذكاء الاصطناعي الآن ولكن. يمكن القول إن التصويت على خروج بريطانيا من الاتحاد الأوروبي قد تأثر أيضًا بوسائل التواصل الاجتماعي والنتيجة. هل تعتقد ذلك . . . هل نشهد نتائج في الانتخابات لم نكن لنحصل عليها، لو لم تكن لدينا هذه التقنيات الناشئة الجديدة أو طرق نشر المعلومات المضللة؟
الضعف الجنسي: ليس هناك من ينكر على الإطلاق حقيقة أن التكنولوجيا تؤثر على الانتخابات وطريقة إدارة الحملات الانتخابية. من الصعب حقاً أن نفصل بين الشيء الرئيسي الذي غير نتيجة الانتخابات. ولكن من الواضح جدًا أن الطريقة التي يتم بها دمج هذه التقنيات الجديدة في الحملات تغير كيفية تشغيل الحملات. إنه يغير كيفية قيام الصحفيين بتغطية الحملات، ويغير كيفية تفاعل الجمهور مع المعلومات التي تأتي من تلك الأنظمة.
بالتأكيد، نحن نشهد التأثيرات الآن. هل تؤثر المعلومات الخاطئة أو المضللة على الانتخابات إلى الحد الذي يجعلنا لا نستطيع الثقة في النتائج أو التشكيك في نزاهتها؟ أعتقد أن ما رأيناه حتى الآن، خاصة في الانتخابات الأمريكية الأخيرة، هو أن الذكاء الاصطناعي، من حيث قدرته الخادعة وطريقة استخدامه، ليس له هذا النوع من التأثيرات أو نوع التأثيرات الفوضوية التي توقعنا في البداية.
لكن هذا لا يعني أن الأمر لن يتغير مع تطور هذه الأدوات ودمجها في حياتنا اليومية.
سؤال الجمهور: ما الذي تعتقد أنه يمكن لأصحاب المنصات أنفسهم فعله لمكافحة المعلومات الخاطئة والمعلومات المضللة؟
الضعف الجنسي: سأبدأ أولاً بالذكاء الاصطناعي وخاصة أدوات الذكاء الاصطناعي التوليدية. أعتقد أنه يجب أن تكون هناك ضمانات واضحة للغاية مدمجة في النظام حتى لا يكون قادرًا على الهلوسة أو تقديم معلومات غير دقيقة أو معلومات سياقية، خاصة عندما يتعلق الأمر بكيفية تصويت الأشخاص، ومتى يجب عليهم التصويت، ومن سيترشح للانتخابات. انتخاباتهم. هذه معلومات أساسية حقًا من شأنها أن تقوض نزاهة الانتخابات.
ثم ننتقل إلى السؤال الأكبر وهو نشر المعلومات الخاطئة والمضللة عبر جميع أنواع وسائل التواصل الاجتماعي والبحث، وهو سؤال أكثر صعوبة. أعتقد أن أحد الخيارات هو زيادة الشفافية والوضوح حول كيفية عمل خوارزميات تحديد الأولويات وإلغاء الأولويات. دعونا نتأكد من وجود فرق الثقة والسلامة التي تدعمها هذه الشركات وتستفيد منها، للتأكد من أنه عند نشر معلومات قد تكون ضارة عبر تلك الأنظمة الأساسية، فإنها تستجيب لها بالفعل.
وأعتقد أيضًا أنه في مرحلة ما، قد تكون هناك حاجة إلى المزيد من التنظيم الحكومي الجوهري، لأننا نعلم أن كل من هذه المنصات تقوم باختيارات فردية، وأن التغيير في القيادة في إحدى هذه المنظمات يمكن أن يغير بيئة المعلومات بشكل جذري للغاية. بسرعة، وهو ما يمكن أن يكون محفوفًا بالمخاطر حقًا – في سياق حملة انتخابية فعلية.
سؤال الجمهور: وكما رأينا في الانتخابات الأمريكية، في ولايات مثل جورجيا، شهدنا اضطرابًا حقيقيًا. . . تثبيط الناس عن التصويت. وكان لذلك تأثير خطير. هل لديك أي تعليقات عامة حول كيف يمكننا المضي قدمًا لتقليل ذلك وتخفيفه؟
الضعف الجنسي: من ناحية . . . جورجيا، أود أن أتناول الأمر بشكل أوسع وأقول، بالنظر إلى الانتخابات الأمريكية والتأثيرات المحتملة على قدرة الناس على التصويت، نعلم أن الأمر يمتد إلى ما هو أبعد من استخدامات الذكاء الاصطناعي. وهناك أنظمة انتخابية تجعل من الصعب على المقيمين في الخارج الحصول على بطاقات الاقتراع في الوقت المناسب، على سبيل المثال. هناك مجموعة متنوعة من الأشياء التي أعتقد أنها تلعب دورًا عندما نفكر فيما إذا كان الناس على علم بما يكفي للإدلاء بأصواتهم أم لا. هذا ليس شيئًا جديدًا تمامًا. ولكن هذا شيء . . . يمكن استخدام المعلومات الخاطئة والمضللة لتفاقم المشكلة لأن المعلومات يمكن أن تنتقل بسرعة كبيرة. مع وجود الذكاء الاصطناعي في العديد من التنسيقات المختلفة عبر الإنترنت، قد يكون من الصعب حقًا تتبع ما هو صحيح ومعرفة كيفية تنفيذ الخطوات التالية.
سؤال الجمهور: الخوارزميات في وسائل التواصل الاجتماعي، تكافئ التفاعل، أليس كذلك؟ وفي كثير من الأحيان، يكون هناك تحيز لدى البشر حيث ينجذبون أكثر إلى المحتوى السلبي والبغيض والاستفزازي. لذلك، يمكن للخوارزميات، مثل الشبكات الاجتماعية، أن تقول فقط: “أوه، نحن فقط نكرر ما يريد الناس رؤيته”. ولذا فإن السياسيين الذين يستغلون السلبية والكراهية يستفيدون من ذلك. هل تعتقد أن الخوارزميات الفعلية نفسها تحتاج إلى تنظيم للحماية من ذلك؟
الضعف الجنسي: إنها نقطة عظيمة. يجعلني أفكر في البحث الذي تم إجراؤه على الإعلانات الهجومية. من المعروف أن إعلانات الهجوم السياسي فعالة جدًا في جعل الأشخاص لا يثقون أو لا يريدون التصويت لمن يتعرض للهجوم. ولكن هناك تأثيرًا مرتدًا حيث يتلقى من قام بالهجوم أيضًا ضربة في استطلاعات الرأي. لقد كان ذلك بمثابة رادع طبيعي لاستخدام الكثير من هذا النوع من الحملات السلبية.
لكن ما نراه في أنظمة الإنترنت هو أنه من الأسهل كثيرًا على الحملات السياسية أن تنأى بنفسها عن تلك الهجمات وعن تلك الأنواع من الأساليب القائمة على الخوف. لذا ينتهي بك الأمر إلى أن تكون قادرًا على تقويض خصمك دون أن تتلقى الضربة بنفسك بالضرورة.
ويمكن أن يتفاقم الأمر مرة أخرى بسبب أنواع مختلفة من أدوات الذكاء الاصطناعي التوليدية، وخوارزميات وسائل التواصل الاجتماعي التي تعمل على تضخيمه. فهل ينبغي إذن تنظيم الخوارزميات نفسها؟ لا أعلم أننا نريد بالضرورة وضعًا حيث يتعين على كل منصة الالتزام بنوع معين من الأولويات، لأسباب تجارية وأسباب تتعلق بنوع الوصول إلى المعلومات. لكنني أعتقد أننا بحاجة إلى المزيد من الشفافية في كيفية عمل هذه الأمور، ونحتاج إلى خيارات إضافية حتى يتمكن الأشخاص من اختيار أنواع مختلفة من القيمين على معلوماتهم.
تم تحرير هذا النص من أجل الإيجاز والوضوح.
