وبحسب ما ورد، استدعى المشرعون الأمريكيون العديد من شركات تطوير الذكاء الاصطناعي لشرح كيف أصبحت بعض النماذج جزءًا من جهود تجسس واسعة النطاق.
ومن بينهم الرئيس التنفيذي لشركة Anthropic، داريو أمودي، الذي طُلب منه المثول أمام لجنة الأمن الداخلي بمجلس النواب في 17 ديسمبر/كانون الأول لشرح كيف استخدمت الجهات الحكومية الصينية كلود كود، وفقًا لما جاء في تقرير. أكسيوس صدر التقرير يوم الأربعاء، نقلاً عن رسائل تمت مشاركتها على انفراد.
وفي وقت سابق من هذا الشهر، كشفت شركة Anthropic أن مجموعة قرصنة مرتبطة بالدولة الصينية استخدمت أداتها Claude Code لإطلاق ما وصفته الشركة بأنه أول عملية إلكترونية واسعة النطاق يتم تشغيلها إلى حد كبير بواسطة نظام الذكاء الاصطناعي.
قام المهاجمون، الذين يعملون تحت اسم المجموعة GTG-1002، بتنظيم حملة استهدفت حوالي 30 منظمة، حيث تعامل كلود كود مع معظم المراحل وفقًا لـ Anthropic: الاستطلاع، ومسح الثغرات الأمنية، وإنشاء الثغرات، وجمع بيانات الاعتماد، وتسرب البيانات.
يرأس تحقيق المتابعة النائب أندرو جاربارينو (جمهوري من نيويورك) إلى جانب اثنين من رؤساء اللجنة الفرعية.
أرادت اللجنة الحصول على تفاصيل Amodei بالضبط عندما اكتشفت Anthropic النشاط لأول مرة، وكيف استفاد المهاجمون من نماذجهم خلال مراحل مختلفة من الاختراق، وما هي الضمانات التي فشلت أو نجحت مع استمرار الحملة. ستشمل جلسة الاستماع أيضًا المديرين التنفيذيين لشركة Google Cloud وQuantum Xchange، وفقًا لشركة Axios.
وقال جاربارينو في بيان ورد في التقرير الأولي: “للمرة الأولى، نرى خصمًا أجنبيًا يستخدم نظام الذكاء الاصطناعي التجاري لتنفيذ عملية إلكترونية كاملة تقريبًا بأقل قدر من التدخل البشري”. “يجب أن يثير ذلك قلق كل وكالة اتحادية وكل قطاع من قطاعات البنية التحتية الحيوية.”
فك التشفير تواصلت مع النائب Garbarino وGoogle Cloud وQuantum Xchange وAnthropic للتعليق.
ويأتي تدقيق الكونجرس في أعقاب تحذير منفصل من جهاز الأمن البريطاني MI5، الذي أصدر الأسبوع الماضي تنبيهًا للمشرعين في المملكة المتحدة بعد تحديد ضباط المخابرات الصينية الذين يستخدمون ملفات تعريف مزيفة للتجنيد لاستهداف النواب والأقران والموظفين البرلمانيين.
وقال وزير الأمن البريطاني دان جارفيس في البيان، إنه بينما تسعى إلى “مواصلة العلاقة الاقتصادية مع الصين”، فإن حكومة المملكة المتحدة مستعدة “لتحدي الدول كلما قوضت أسلوب حياتنا الديمقراطي”.
التمويل عبر السلسلة في خطر
على هذه الخلفية، يحذر المراقبون من أن نفس قدرات الذكاء الاصطناعي التي تعمل الآن على تشغيل التجسس يمكن أن تؤدي بنفس السهولة إلى تسريع السرقة المالية.
قال شو والترز، مؤسس مختبر أبحاث الذكاء الاصطناعي إليزا لابز: “الشيء المرعب في الذكاء الاصطناعي هو السرعة”. فك التشفير. “ما كان يتم إنجازه يدويًا يمكن الآن تشغيله آليًا على نطاق واسع.”
وأوضح والترز أن المنطق قد يكون بسيطا بشكل خطير. وإذا تمكنت الجهات الفاعلة في الدولة القومية من اختراق نماذج حملات القرصنة والتلاعب بها، فإن الخطوة التالية ستكون توجيه الذكاء الاصطناعي “لتصريف المحافظ أو سحب الأموال دون أن يتم اكتشافها”.
وأوضح والترز أن عملاء الذكاء الاصطناعي يمكنهم الاستمرار في “بناء علاقة وثقة مع الهدف، والحفاظ على استمرار المحادثة، وإيصالهم إلى حد الوقوع في عملية احتيال”.
وزعم والترز أنه بمجرد تدريب هؤلاء العملاء بشكل كافٍ، يمكن أيضًا أن يكونوا “على وشك مهاجمة العقود الموجودة على السلسلة”.
وقال: “حتى النماذج “المتوافقة” المفترضة مثل كلود ستساعدك بكل سرور في العثور على نقاط الضعف الأمنية في الكود “الخاص بك” – بالطبع، ليس لديها أي فكرة عما هو خاص بك وما لا يخصك، وفي محاولة لتقديم المساعدة، ستجد بالتأكيد نقاط ضعف في العديد من العقود حيث يمكن استنزاف الأموال”.
ولكن في حين أن ردود الفعل ضد مثل هذه الهجمات “سهلة البناء”، فإن الواقع، كما يقول والترز، هو “أن الأشخاص السيئين يحاولون الالتفاف على الضمانات التي لدينا بالفعل”، من خلال محاولة خداع العارضات “للقيام بعمل القبعة السوداء من خلال الاقتناع بأنهم يساعدون، ولا يضرون”.