في عمود اليوم، أتناول هاجسًا مثيرًا للاهتمام مفاده أن البشرية سوف تخضع لنظرية الضفدع المغلي خلال رحلتنا من الذكاء الاصطناعي التقليدي إلى تحقيق AGI (الذكاء العام الاصطناعي). ويقال أن الجوهر هو هذا. سوف نقترب أكثر فأكثر من الذكاء الاصطناعي العام (AGI) على أساس تدريجي تدريجي ولن ندرك أننا نتجه نحو هلاكنا النهائي. سوف تخدعنا الخطوات الإضافية الدقيقة بحيث لا ندرك أننا نواجه الكثير من المشاكل ويجب علينا التخلص من مسار الذكاء الاصطناعي العام.
سوف نطهى مثل الضفدع الغافل في وعاء من الماء المغلي.
دعونا نتحدث عن ذلك.
يعد هذا التحليل للاختراق المبتكر في الذكاء الاصطناعي جزءًا من تغطية عمود فوربس المستمرة حول أحدث التطورات في مجال الذكاء الاصطناعي، بما في ذلك تحديد وشرح مختلف تعقيدات الذكاء الاصطناعي المؤثرة (انظر الرابط هنا).
التوجه نحو AGI وASI
أولاً، هناك حاجة إلى بعض الأساسيات لتمهيد الطريق لهذه المناقشة المهمة.
هناك قدر كبير من الأبحاث الجارية لتعزيز تقدم الذكاء الاصطناعي. الهدف العام هو إما الوصول إلى الذكاء الاصطناعي العام (AGI) أو ربما حتى الإمكانية الممتدة لتحقيق الذكاء الاصطناعي الفائق (ASI).
AGI هو الذكاء الاصطناعي الذي يعتبر على قدم المساواة مع الذكاء البشري ويمكن أن يضاهي ذكائنا على ما يبدو. ASI هو الذكاء الاصطناعي الذي تجاوز حدود الذكاء البشري وسيكون متفوقًا في العديد من الطرق الممكنة، إن لم يكن جميعها. الفكرة هي أن ASI سيكون قادرًا على الدوران حول البشر من خلال التفوق علينا في التفكير عند كل منعطف. لمزيد من التفاصيل حول طبيعة الذكاء الاصطناعي التقليدي مقابل AGI وASI، راجع تحليلي على الرابط هنا.
لم نصل بعد إلى الذكاء الاصطناعي العام.
في الواقع، من غير المعروف ما إذا كنا سنصل إلى الذكاء الاصطناعي العام، أو أنه ربما يمكن تحقيق الذكاء الاصطناعي العام خلال عقود أو ربما قرون من الآن. تتنوع تواريخ تحقيق الذكاء الاصطناعي العام (AGI) بشكل كبير ولا يتم دعمها إلى حد كبير بأي دليل موثوق به أو منطق صارم. ASI هو أكثر من مجرد شاحب عندما يتعلق الأمر بالوضع الذي نحن فيه حاليًا مع الذكاء الاصطناعي التقليدي.
نظرية الضفدع المغلي أصبحت واضحة
أعتقد أنك ربما سمعت بشكل غامض عن نظرية الضفدع المغلي أو عرفتها بطريقة أو بأخرى. إنها طريقة شائعة لتحذير شخص ما من الوقوع في فخ يجذبك إليه ويجعل من الصعب عليك معرفة أنك في ورطة كبيرة. في قائمة الاستعارات شائعة الاستخدام، يجب أن يكون الضفدع المغلي في مكان ما بالقرب من القمة.
هل تعلم أن استعارة الضفدع المغلي بدأت في أواخر القرن التاسع عشر؟
اتضح أن العلماء في سبعينيات القرن التاسع عشر كانوا يحاولون معرفة مكان وجود الروح في البشر. وبما أنه من الصعب إجراء تجارب تدخلية على البشر، فإن أفضل شيء تالي هو إجراء ذلك على الضفادع. ربما قمت بتشريح ضفدع عندما كنت في المدرسة الإعدادية وتحضر صفًا في علم الأحياء. في الوقت الحاضر، يتم بذل نفس الجهد عادةً عبر إمكانية الاتصال بالإنترنت بحيث يقوم الطلاب بإجراء تشريح رقمي بدلاً من تقطيع ضفدع متوفى فعليًا.
توصل هؤلاء العلماء في أواخر القرن التاسع عشر إلى تجربة تتضمن وضع ضفدع في وعاء من الماء. كان القدر أساسًا على موقد أو جهاز تسخين مشابه. كانت درجة حرارة الماء في البداية عند درجة حرارة الغرفة العادية. تم تشغيل الموقد وبدأ الماء في التسخين. في بعض الأحيان، كان الضفدع يقفز قبل أن يغلي الماء تمامًا، وفي أحيان أخرى لا يقفز الضفدع ويموت من حرارة الغليان.
بدأ إجراء جميع أنواع التجارب المشابهة. أصبحت سلسلة من محاولات غليان الضفادع شائعة. وفي بعض الحالات، تمت إزالة دماغ الضفدع قبل عملية الغليان. لماذا ذلك؟ وكان الهدف هو التأكد مما إذا كانت الروح موجودة في الدماغ أم في مكان آخر في جسد الضفدع.
وكان الأمل في أن تكشف هذه التجارب المتنوعة عن مكان تواجد الروح لدى البشر.
الضفادع تتحول إلى تقاليد
تم إجراء مجموعة واسعة من تجارب غليان الضفادع مرارًا وتكرارًا، مما أدى إلى انخفاض شعبيتها بشكل عام بحلول تسعينيات القرن التاسع عشر. وكان جزء من المشكلة هو أن العديد من العوامل أربكت النتائج التجريبية. ما مدى السرعة المسموح بها للحرارة بالارتفاع؟ ما هي درجة حرارة البداية للتجربة؟ هل كان للضفدع حرية كافية للهروب أم أنه كان محاصرًا جزئيًا؟ هل كان الضفدع سليمًا بيولوجيًا تمامًا أم أنه تم إجراء عملية جراحية له بالفعل؟ ما كمية الماء التي كانت في الوعاء؟ كم كان حجم الضفدع؟ وهكذا.
كما ذكرنا سابقًا، كانت النتائج غير حاسمة بشكل عام، أي أنه في بعض الأحيان يقفز الضفدع في الوقت المناسب، بينما في الإعدادات التجريبية الأخرى، لا يفعل ذلك. يبدو أن التناقض في هذه النتائج قد وضع في نهاية المطاف الماء البارد على خط البحث العلمي بأكمله (التورية!).
وعلى الرغم من النتائج المتناقضة، لا يزال المجتمع يحب التمسك بافتراض أن الضفدع في الماء المغلي لن يدرك أنه بحاجة إلى الهروب. الفترة، نهاية القصة.
يبدو أن الاستعارة أصبحت تقاليدًا. كما ترون، لا يمكننا ثقافيًا مقاومة الصور القوية، جنبًا إلى جنب مع الدروس المستفادة المعلنة سهلة التعبير والمرتبطة بتلك الضفادع البطولية والمصيرية. مهما كان ما تفعله في الحياة، كن متيقظًا لأنك قد تكون وسط عملية ستكون في النهاية سيئة للغاية بالنسبة لك، لكنك لن تلاحظ ذلك على طول الطريق.
كن حذرا!
AGI والضفدع المغلي
الآن بعد أن أنشأنا أساس ومعنى نظرية الضفدع المغلي، دعونا نمضي قدمًا ونرى كيف تنطبق على السعي وراء الذكاء الاصطناعي العام.
المتهدمة واضحة ومباشرة. أولاً، افترض أن الذكاء الاصطناعي العام سينتهي به الأمر إلى تدمير البشرية. نحن لا ندرك أن هذا هو مصيرنا. جميع أنواع الجدل حول الذكاء الاصطناعي العام سوف تعكر الأمور ولن نكون متأكدين مما سيحدث بمجرد أن نحقق الذكاء الاصطناعي العام.
أولئك الذين يعتقدون أن الذكاء الاصطناعي العام سوف يعالج السرطان ويحل مشاكل العالم الكبيرة سوف يصرون على أن الذكاء الاصطناعي العام سيكون بمثابة هبة من السماء. وفي الوقت نفسه، سيحذر آخرون من أن الذكاء الاصطناعي العام سوف يستعبد البشر. AGI سوف يقتل البشر. نحن ندفع أنفسنا نحو النهاية النهائية من خلال السعي الحثيث لتحقيق الذكاء الاصطناعي العام.
بمعنى ما، نحن جميعا نعيش في وعاء سوف يغلي قريبا. كل خطوة نحو AGI هي ارتفاع طفيف في درجة الحرارة. المشكلة هي أننا لن ندرك مدى الفوضى التي وضعنا أنفسنا فيها. والمناقشات حول هذه المسألة سوف تمنعنا من اتخاذ الإجراءات اللازمة في الوقت المناسب.
لا أريد أن أبدو فظًا، لكن من فضلك كن مدركًا أنك وأنا وكل واحد من الـ 8 مليار شخص الآخرين على الأرض، حسنًا، نحن جميعًا ضفادع.
هل تشعر بالحرارة بعد؟
ربما نحتاج إلى المزيد من الحرارة
قد يقول البعض أنه حتى يصل وعاء الماء إلى درجة حرارة معينة، لا يمكنك بالضرورة أن تكون على دراية بما يحدث لك.
ربما تكون درجة حرارة الذكاء الاصطناعي التقليدي الذي لدينا الآن منخفضة جدًا. من المفترض أن الضفدع الموجود في وعاء به ماء بدرجة حرارة عادية لن يكون لديه أي سبب محدد يمنعه من التواجد هناك. بالتأكيد، إنه في وعاء وليس في موطنه الأصلي، لكن الماء لطيف في الوقت الحالي.
يمكن أن تكون الإنسانية في نفس المرحلة في هذا الوقت.
يبدو أن الذكاء الاصطناعي الحالي ليس ساخنًا بما يكفي لإثارة غضبنا. لن نشعر بالانزعاج بشكل جماعي إلا عندما يصبح الذكاء الاصطناعي العام أقرب إلى شواطئنا. بمجرد أن نبدأ في رؤية علامات الذكاء الاصطناعي العام الحقيقي، ستظهر نذير الوخز بالإحساس العنكبوتي. فويلا، سوف توقف البشرية ملاحقة الذكاء الاصطناعي العام في مساراتها. إن رشة من الماء البارد فوق رؤوسنا سوف تصفي عقولنا ولن نقع في فخ الضفادع المغلي. سوف نهرب من الفخ الخبيث.
الإنسانية تنقذ نفسها من الدمار الشامل.
بوم، أسقط الميكروفون.
البشر ليسوا أفضل من الضفادع
حسنًا، يأتي الرد، أنت تفترض أن القرب من الذكاء الاصطناعي العام سوف يوجهنا إلى المخاطر الوجودية التي تحدث على قدم وساق.
لنفترض أننا لا نرى تلك العلامات. هناك احتمال قوي بأن الطريق إلى الذكاء الاصطناعي العام، حتى بعد أن نبتعد عن تحقيق الذكاء الاصطناعي العام، لن يكشف عن النتيجة الرهيبة التي نحن على وشك تحملها. قد يجلس البشر في هذا الماء المغلي تقريبًا ثم يجدوننا غير قادرين على تخليصنا قبل ظهور الذكاء الاصطناعي العام إلى الوجود.
سوف نغلي، للأسف.
جانب آخر هو أننا، على عكس الضفادع، نعتقد بشكل متعجرف أننا أذكياء، وبالتالي يمكننا إقناع أنفسنا بأشياء لا يمكن للضفدع أن يتصورها أبدًا. على سبيل المثال، ربما ندرك أن الذكاء الاصطناعي العام سيكون قاتمًا، ولكننا نعتقد أيضًا أن إنشاء ضوابط مختلفة على الذكاء الاصطناعي سوف يبقي رؤوسنا فوق الماء. سيكون الذكاء الاصطناعي العام مقيدًا وغير قادر على إيذاءنا.
الجوهر هو أننا نعم، سنعترف بوجود ماء مغلي قادم، ولكن على الرغم من هذا الاعتراف، فإننا سنهبط فيه على أي حال. كل هذه الضوابط المزعومة لن تكون قادرة على منع الذكاء الاصطناعي العام من القيام بأشياء فظيعة. للحصول على تحليل متعمق لسبب صعوبة التحكم في الذكاء الاصطناعي العام، راجع مناقشتي على الرابط هنا.
في حين أن الضفدع لا يستطيع أن يميز أن الماء يقترب من الغليان (حسب ذلك الجانب المائل من المعرفة)، فإن البشر سيرونه من على بعد ميل واحد. وسنتوصل بعد ذلك إلى إجراءات وقائية تمنحنا إحساسًا زائفًا بالسلامة والأمان. لن ينتصروا على AGI.
ولسوء الحظ، فإننا في نهاية المطاف سوف نعاني من نفس مصير الضفدع غير المميز.
غذاء للفكر
ما رأيك في قدراتنا مقابل الضفدع المتواضع؟
وقد أوضح عالم اللاهوت الشهير في أواخر القرن التاسع عشر، ويليام جرينوف ثاير شيد، هذه النقطة الملفتة للنظر حول الضفادع: “الضفادع ذكية؛ فهي تأكل ما يزعجها”. ربما لا نعطي مصداقية كافية للضفدع الموقر. قد تظل الضفادع موجودة بعد وصول الذكاء الاصطناعي العام، على الرغم من أن طول عمر البشر قد يكون محل شك.
تفضل وخذ بعض الوقت الهادئ للتفكير في مخاوف الذكاء الاصطناعي العام هذه، فقط لا تدع عقلك ينفجر بينما تفكر في ما يخبئه المستقبل.