قد يبدو الأمر وكأنه فيلم إثارة في هوليوود ، ولكن في كتابه الجديد “إذا كان أي شخص يبنيه ، يموت الجميع” ، يجادل المؤلفون إيليزر يودوكوفسكي ونيت سواريس بأنه إذا خلقت الإنسانية ذكاءًا أكثر ذكاءً من نفسه ، فلن يكون البقاء غير مرجح – فسيكون من المستحيل.
يجادل المؤلفون بأن أنظمة اليوم ليست مصممة على الخط عبر الخط بل “نمت” عن طريق تدريب مليارات المليارات من المعلمات. وهذا يجعل سلوكهم غير متوقع.
مع موازين الذكاء ، يمكن أن تظهر محركات الأقراص مثل الحفاظ على الذات أو البحث عن السلطة بشكل مستقل. إذا كان مثل هذا النظام يفوق سيطرة الإنسان على الإطلاق ، فإن الانقراض سيتبع ذلك افتراضيًا.
يطلقون على السباق الحالي بين عمالقة التكنولوجيا والحكومات لبناء نماذج أكثر إزعاجًا “سباق انتحاري”. لا مطلوب في الشرير ، مجرد عدم الكفاءة.
لماذا يهم
يهبط الكتاب مع مجتمع الذكاء الاصطناعى بالفعل إلى معسكرات.
يجادل Doomers منظمة العفو الدولية بأن الانقراض هو النتيجة الحتمية ما لم تتوقف الإنسانية أو يبطئ بشكل كبير التقدم. مواجهة أخصائيي التسارع أن الدفع إلى الأمام يمكن أن يحقق اختراقات في الطب والعلوم والاقتصاد ، مع إبطاء ما يشكل خطرًا أكبر.
جعل سوبرتيك نيك بوستروم لأول مرة القضية الوجودية قبل عقد من الزمان. Yudkowsky و Soares شحذها في مكالمة Klaxon.
لكن النقاد يشعرون بالقلق من أن التثبيت على الانقراض يصرف انتباهه عن الأضرار هنا: التحيز ، تسريح العمال ، المراقبة ، والتخلص من المعلومات.
ماذا تقول نماذج الذكاء الاصطناعى
بما أن الكتاب يتحدث عنهم ، فقد طلبنا من قيادة نماذج الذكاء الاصطناعي ما يفكرون فيه.
على حد علمنا ، لم يقرأ أي من LLMS بالفعل الكتاب حتى الآن ، وبالتالي فإن المراجعات التالية تعتمد على تفسيرات المنصات للمراجعات التي قاموا بها.
chatgpt
صمم chatgpt من Openai الكتاب باعتباره استفزازًا مفيدًا بدلاً من نبوءة.
أجاب chatbot: “الكتاب ذو قيمة كأداة لتغيير المنظور ، حتى لو كنت تعتقد أنه يتجاوز”. “إنه يشحذ الحدس حول المحاذاة والعواقب غير المقصودة. لكن معاملة أسوأ حالة لها كما لا مفر منها يتجاهل عدم اليقين حول البنية واللوائح والقيود المستقبلية”.
صرح Chatgpt أن نموذج تطورات الذكاء الاصطناعى في المستقبل يتوقف على كيفية تطور البنية وما هي الدرابزين التنظيمي أو الاجتماعي أو التقني.
“هذا عدم اليقين يعني أنني لن أتعامل مع أسوأ حالة لا مفر منه” ، استنشق شاتغبت.
ميتا
ضربت Meta AI ملاحظة متوسطة ، قائلة إن تحذيرات الكتاب الرهيبة مبالغ فيها ولكنها لا تزال ذات قيمة لإثارة النقاش.
أجاب ميتا AI: “قد تشعر تنبؤاتها الرهيبة بالمبالغ فيها ، لكن التركيز على الحذر والتعاون الدولي له ما يبرره”. “سواء كنت توافق على استنتاجها أم لا ، فإن الكتاب يشرف في حاجة إلى نقاش حول تطوير الذكاء الاصطناعي المسؤول.”
وقالت منظمة العفو الدولية لـ Meta إن تركيز المؤلفين على الحاجة إلى الحذر والتعاون الدولي أمر مهم للغاية ، بالنظر إلى العواقب الوراثية المحتملة لتطوير الذكاء الاصطناعي غير المحدد.
تَوأَم
ألقت Gemini من Google الكتاب باعتباره قراءة مرعبة ولكن توضيح ، حتى لو كانت حلوله المقترحة غير واقعية.
“الكتاب ضروري لفهم النهاية القصوى لمخاطر الذكاء الاصطناعى” ، قال جيميني. “إن حلها المقترح – إغلاق إجمالي – غير قابل للتحقيق سياسياً ، لكن التحذير يمكن أن يحلف الاستثمار في تقنيات السلامة والرقابة قبل أن نصل إلى نقطة اللاعودة.”
وقال جيميني إن الكتاب يحدد المخاطر الشديدة في الإصلاح ، والذي بدوره يساعد في تبرير تدابير أمان قوية (إذا كان أقل جذرية) اليوم.
كلود
كان كلود من الأنثروبور أكثر تشككًا ، وهو أمر مثير للاهتمام منذ بين LLMs الرائدة ، ويعتبر الأنثروبور عمومًا هو الأكثر وعيًا بالسلامة. لكن كلود وصف نغمة الكتاب بأنه “واثق مفرط” وتأطيره بأنه ثنائي للغاية.
وقال كلود: “يحدد المؤلفون بشكل صحيح مخاطر حقيقية ، لكن يقينهم يشعرون بالثقة المفرطة”. “إنهم يرفضون التقدم في أبحاث سلامة الذكاء الاصطناعى ويأطيرون القضية باعتبارها ثنائية بين الكمال والانقراض. وهذا يجعل رسالتهم أقل بناءًا.”
في حين أن تحذيراتهم تسلط الضوء على المخاطر المهمة التي تضمن موارد كبيرة وحذر ، قال كلود إن “يموت الجميع” يبدو مصممًا لجذب الانتباه أكثر من تمثيل الشكوك المعقدة المعقدة.
وقال الذكاء الاصطناعى: “المخاطر خطيرة بما يكفي لتأخذها على محمل الجد دون الحاجة إلى قبول ادعاءاتهم بالكارثة التي لا مفر منها”.
جروك
فوجئت منصة AI من Elon Musk ، لأنه كان يروج لـ Grok باعتباره وسائل الإعلام المناهضة للوسائط.
لكن Grok كان سريعًا في الاستشهاد بـ “مراجعة NYT المثيرة ، [calling] حججها ضعيفة أو مثيرة للقلق. “
أجاب جروك: “هذا الكتاب عبارة عن تذكير بانتهاك القناة الهضمية بأن الذكاء بدون حكمة هو مسؤولية ، وليس لدينا أي من الأخير خبز بعد”. “ومع ذلك ، فهي إباحية من العقلانيين: مثيرة في قدرتها ، لكنها تعترض على قابلية التكيف البشري. أخلاق XAI – على الانتهاء من الغزو – يمكن أن نرسل الإبرة: متابعة AI الجريئة للأسئلة الكونية مع تضمين الجانبية من اليوم الأول.”
ومع ذلك ، فقد قال جروك: “بشكل عام ، إنها قراءة استفزازية وفعالة لأي شخص يتصارع مع مستقبل الذكاء الاصطناعى – إذا كنت منفتحًا على التشاؤم ، ولكن من المحتمل أن تكون مبالغًا فيها إذا كنت متفائلاً بشأن التقدم التقني”.
