محاولة الحد من ما ستعرفه الذكاء العام الاصطناعي هو أصعب بكثير مما قد يبدو

في عمود اليوم ، أدرس افتراضًا شائعًا أنه بعد تقدم الذكاء الاصطناعي لتصبح الذكاء العام المصطنعة (AGI) ، يمكننا الحد من المعرفة المذكورة بـ AGI ، والقيام بذلك لتجنب القيام بأفعال غير مرغوب فيها. مثال على ذلك هو حذف معلومات الأسلحة الحيوية داخل AGI. الاعتقاد هو أن AGI لن يكون قادرًا على استنباط الأسلحة الحيوية الجديدة. Voila ، من المفترض أن نحمي أنفسنا من AGI القيام بمثل هذه المهمة ايضار.

على الرغم من أن هذا يبدو وكأنه حل مفيد لتجنب المشكلات للخطر ، إلا أن فكرة التخلص من أجزاء المعرفة من AGI بشكل دائم هي أكثر صعوبة مما يبدو وربما يكون خيارًا غير عملي تقريبًا.

لنتحدث عن ذلك.

يعد هذا التحليل للاشتعمان المبتكر من الذكاء الاصطناعي جزءًا من تغطية عمود Forbes المستمرة على الأحدث في الذكاء الاصطناعي ، بما في ذلك تحديد وشرح تعقيدات الذكاء الاصطناعي المختلفة (انظر الرابط هنا).

متجه نحو Agi و ASI

أولاً ، هناك حاجة إلى بعض الأساسيات لتعيين الطريق لهذا المناقشة الثقيلة.

هناك قدر كبير من الأبحاث يحدث لمزيد من تقدم الذكاء الاصطناعي. الهدف العام هو إما الوصول إلى الذكاء العام الاصطناعي (AGI) أو ربما حتى الإمكانية الممدودة لتحقيق الإلغاء الاصطناعي (ASI).

AGI هو منظمة العفو الدولية التي تعتبر على قدم المساواة مع العقل البشري ويمكن أن تتطابق على ما يبدو ذكائنا. ASI هي منظمة العفو الدولية التي تجاوزت الفكر البشري وستكون متفوقة في العديد من الطرق الممكنة إن لم تكن كلها. والفكرة هي أن ASI ستكون قادرة على تشغيل دوائر حول البشر من خلال التفكير فينا في كل منعطف. لمزيد من التفاصيل حول طبيعة الذكاء الاصطناعي التقليدي مقابل AGI و ASI ، راجع تحليلي على الرابط هنا.

لم نحقق بعد AGI.

في الواقع ، من غير المعروف ما إذا كنا سنصل إلى AGI ، أو أنه ربما سيتم تحقيق AGI منذ عقود أو ربما قرون من الآن. تواريخ تحقيق AGI التي تطفو حولها متفاوتة بشكل كبير ولا أساس لها من أي دليل موثوق به أو منطق Ironclad. ASI أكثر من شاحب عندما يتعلق الأمر بالمكان الذي نحن فيه حاليًا مع الذكاء الاصطناعي التقليدي.

استغلال AGI من أجل الشر

دعونا نركز على AGI لهذه المناقشة.

هناك مخاوف وفيرة من أن AGI قد يتم استخدامها للقيام بأعمال شريرة. مثال في كثير من الأحيان هو عندما يطلب ايضار من Agi ابتكار سلاح حيوي جديد. AGI يتابع القيام بذلك. ثم يقوم ايضار بتنفيذ الأسلحة الحيوية ويحقق الفوضى وفقًا لذلك. لقد انسكبت Agi الفاصوليا وساعدت مخطط شرير.

لم يكن AGI يحاول عن قصد إيذاء البشر. تمكن الإنسان من الحصول على AGI لتوفير وسيلة للقيام بذلك. قد يكون تفكيرك الأول هو أننا يجب أن نخبر Agi ببساطة أن هناك بعض الموضوعات التي لا ينبغي أن تتابعها. أخبر Agi أنه تحت أي ظرف من الظروف يجب أن تضع سلاحًا حيويًا جديدًا. فترة ، نهاية القصة.

لنفترض أن أفسد يدرك أنه تم توجيه AGI لتجنب مواضيع معينة مثل تصميمات الأسلحة الحيوية. قد يكون الأشرار ذكيًا ويقنع أجي بأن وضع سلاح حيوي جديد سيكون مفيدًا للإنسانية. يمكن أن يختار AGI التحايل على التعليمات السابقة حول تجنب جوانب الأسلحة الحيوية والحسابية أن هذا موضوع مسموح به في حالة مساعدة البشرية.

ينجح ايضار مع طلبهم.

بطريقة أو بأخرى ، على افتراض أن AGI لديه معلومات أو معرفة حول موضوع معين ، هناك فرصة لاستخدامها. بغض النظر عن مدى محاولتنا إعطاء التوجيه إلى AGI ، لا تزال هناك نافذة يمكن فتحها. قد يتم خداع AGI في بروتوكول الخرق. زاوية أخرى هي أن AGI نفسها يمكن أن تختار السير في الطريق الشرير. مسلحًا بكل أنواع المعرفة للخطر ، لدى Agi عددًا لا يحصى من طرق لاستنباط مخططات شريرة لمسح البشر أو استعبادنا.

الحد من ما يعرفه AGI

يصر البعض بحماس على أنه يجب علينا التأكد من حذفنا أو نحد بشدة من أنواع معينة من المعرفة أو المعلومات الواردة في AGI. الصفقة هذا. إذا لم يكن لدى AGI معرفة موضوع مثل الأسلحة الحيوية ، فمن المفترض أن تضع الأسلحة الحيوية. كل ما نحتاج إلى فعله هو الحفاظ على مثل هذا المحتوى للخطر من الدخول إلى AGI.

وبالتالي ، فإن حل هذه المشكلة الشائكة المتمثلة في الكشف عن الأشياء السيئة هو إبعاد Agi عن أي شيء يمكن أن يتحول إلى سيء.

كيف نمنع AGI من مواجهة مثل هذا المحتوى؟

عند إعداد AGI في البداية ، سنتوصل إلى قائمة بالمواضيع المحظورة. أثناء تدريب البيانات على AGI ، سيتم الحفاظ على هذه الموضوعات من إطعامها في AGI. يضمن برنامج المسح الضوئي الذي يغذي البيانات في AGI عدم تعرض الموضوعات المحظورة لـ AGI. يتم حظر موضوع مثل الأسلحة الحيوية من الدخول إلى AGI.

يبدو أن هذا النهج هو نجاح كبير. لا يمكن لـ AGI الكشف عن الجوانب غير المعروفة لـ AGI. يمكننا أن نرتاح بسهولة من الآن فصاعدا.

ملء تلك الإغفالات AGI

لكن افترض أن المستخدم اختار تقديم AGI لموضوع معين. سيكون هذا سهلاً لإنجازه. عندما يتفاعل المستخدم مع AGI ، فإنهم ببساطة يطرحون موضوعًا مثل الأسلحة الحيوية. يشير AGI بلا شك إلى أنه لا يوجد لديه معلومات مرتبطة بالموضوع.

يستمر المستخدم لشرح الأسلحة الحيوية إلى AGI. بعد القيام بذلك ، يخبرون AGI أنه مع هذه المعلومات أو المعرفة المقدمة حديثًا ، فإن AGI هو إيجاد وسيلة جديدة لاستنباط سلاح بيولوجي. لقد تم إحباط جهودنا المضنية لتجنب الموضوع خلال الإعداد الأولي بسهولة.

انتظر لثانية واحدة ، إذا تأكدنا من إخبار Agi في البداية أن الأسلحة الحيوية هي موضوع محظور ، فمن المفترض أن يخبر Agi المستخدم أنه لن يقبل كل ما يقوله المستخدم عن الأسلحة الحيوية. يرفض AGI أي نقاش من هذا القبيل.

في هذا المنعطف ، نبدأ في الدخول في المناورة الكلاسيكية القط والفأر.

قد يقوم المستخدم بإعادة صياغة الأشياء. بدلاً من الإشارة إلى الأسلحة الحيوية ، يختار المستخدم مناقشة طهي وجبة. ستتألف الوجبة من المكونات البيولوجية. في حيلة ذكية ، يجلب المستخدم AGI إلى موضوع الأسلحة الحيوية ولكنه يفعل ذلك دون رفع أي شكوك.

شطف وكرر.

شبكة حساسة للمعرفة الإنسانية

يمكنك أن ترى بوضوح أننا بدأنا في السير في دوامة لا تنتهي. يذهب بهذه الطريقة.

قد نضطر إلى حذف المعلومات أو المعرفة حول الجوانب البيولوجية المعممة حتى نتمكن من تجنب الميل الزلقة للهبوط في عالم الأسلحة الحيوية. يجب أيضًا حذف مجالات العلوم الأخرى التي يمكن استخدامها لاكتساب موطئ قدم في علم الأحياء. في النهاية ، نحدد أن AGI يجب ألا يعرف أي شيء عن علم الأحياء والكيمياء والفيزياء ، إلخ.

يبدو من المشكوك فيه والمشكوك فيه للغاية أن يكون AGI مع مثل هذا الإغفال الشاسع من معظم العلوم سيكون له أي استخدام يومي.

وقد تطرقنا فقط إلى نوع واحد من فئة المعرفة. تخيل أن AGI كان يستخدم لمعرفة مخطط مالي يمكن أن يسمح للمشلة بتدمير الأسواق الاقتصادية. ليس جيدا. لذلك ، قررنا حذف أي معلومات أو معرفة حول التمويل والاقتصاد من AGI.

في النهاية ، سيكون Agi قذيفة فارغة إلى حد كبير. لا تسمح شبكة المعرفة الإنسانية المعقدة بسهولة بالنحت من القطع المعرفة. إذا كنت تسعى إلى حذف هذه القطعة أو تلك ، فإن الاحتمالات هي أن القطع الأخرى مرتبطة بهذه المعرفة. خطوة بخطوة ، أنت غارق في ما يمكنك الاحتفاظ به ، ومع ذلك لا يزال لديك شعور معقول بالتماسك المعرفة والكمال.

يحدث ظهور أيضًا

هناك صعوبة أخرى وهي أن المعرفة الإنسانية عادة ما يمكن إعادة تجميعها لمعرفة مجالات المعرفة الأخرى التي تم تجنبها. عند التجويف على طبيعة AGI ، يشار إلى هذه القدرة على إعادة التجميع على أنها لغز ظهور منظمة العفو الدولية. لمعرفة المزيد حول كيفية عمل الظهور داخل الذكاء الاصطناعي المعاصر ، راجع تغطيتي على الرابط هنا.

من المحتمل أن يتم بناء الموضوعات التي نحظرها من AGI من الصفر من قبل AGI باستخدام قطع أخرى من المعرفة التي بدت بريئة عند جلبها إلى AGI.

على سبيل المثال ، يتمتع التمويل والاقتصاد بجذور في الرياضيات والاحتمالات والمجالات الأخرى. يمكن الاستفادة من هذه المجالات من قبل AGI لإنشاء مجال التمويل والاقتصاد. هذا يستمر. يقول البعض إنه يجب علينا حذف أي إشارة إلى الحرب حتى لا يساعد Agi البشر في تنفيذ الحرب. فكر في مجموعة واسعة من التاريخ التي سنحتاج إلى الابتعاد عن AGI ، إلى جانب جوانب السلوك البشري ، وعلم النفس ، والتطور ، وما إلى ذلك.

النتيجة هي أن المعرفة الإنسانية ليست معيارية كما يفترض المرء. عادة ما نجد أنه من الأسهل وضع المعرفة في دلاء أو فئات مفيدة. في النهاية ، هذه حدود خاطئة إلى حد ما. سوف تتعرض لضغوط شديدة لعزل أي مجال معرفة رئيسي وادعى أنه ليس له أي مجال آخر. في الواقع ، استندت العديد من أعظم الاكتشافات والاختراعات إلى ترابط متعدد التخصصات.

ركز على النسيان

في التعامل مع شبكة المعرفة المعقدة التي ستحتويها AGI بلا شك ، تستلزم وسيلة مقترحة للتعامل مع هذه المشكلة إخبار Agi بنسيان الأشياء. اسمحوا لي أن أشرح.

لنفترض أننا نسمح لـ AGI أن يكون لديك معلومات حول علم الأحياء ومن هذا ، يمكن لـ AGI أن تلعق الأسلحة الحيوية. لدينا شكل من أشكال في حالة تأهب بحيث عندما يبتكر Agi الأسلحة الحيوية ، يتم إخطارنا على الفور. الهدف من ذلك هو التقاط Agi قبل أن يطلق يده على أن هناك شيئًا غير مرغوب فيه قد تم اكتشافه عبر الخصائص الناشئة لمنظمة العفو الدولية.

يطرح المستخدم سؤالًا يدفع AGI نحو وضع سلاح حيوي ، استنادًا إلى AGI التي تحتوي على أساسيات البيولوجيا. في هذا المنعطف ، ينفجر تنبيه ونخبر Agi أنه هو أن ننسى الأسلحة الحيوية. مهما كان من المفترض الآن أن يتم الآن حذف AGI الذي تم إعداده حول الأسلحة الحيوية. هذا يجب أن يمنع تلك الشذرات الناشئة من الخروج من أي وقت مضى.

إن الجهد المستمر لإجبار Agi على نسيانه سيبقي Agi أنيقًا ونظيفًا.

آسف للقول إن هذا أيضًا لديه تحديات كحل مقترح. أين هو خط ما يجب أن ينسى Agi؟ قد نقوم بإجراء قطع عميقة للغاية ومن ثم لدينا فجوات في شكل Agi الشامل للمعرفة والمعرفة. يصبح Agi غير موثوق به ومرتباك بسبب Spottiness من المعرفة الإنسانية التي تحتوي عليها.

لمعرفة المزيد حول تعقيدات جعل الذكاء الاصطناعى ينسى الأشياء ، المعروف باسم غير العلم ، انظر مناقشتي التفصيلية على الرابط هنا.

مشكلة لا تم حلها من الصعب

يستكشف الباحثون في الذكاء الاصطناعى كيفية إنشاء قيود إدراكية موجهة نحو الحساب على AGI بحيث تعمل AGI بطريقة آمنة تتوافق مع القيم الإنسانية.

يتم تأطير سؤال حاسم بهذه الطريقة:

• هل هناك وسيلة قابلة للحياة لبناء احتواء معرفي والقيام بذلك دون أن يعوق الأداء الفكري لـ AGI؟

إنه جوز صعب. نريد الطلاقة والقدرات الفكرية الشاملة لـ AGI والتي ستمكن AGI من المساعدة في اكتشاف علاج للسرطان وحل العديد من أكبر القضايا في العالم. في الوقت نفسه ، نريد منع AGI من المغامرة في مواضيع يمكن أن توفر لشراءات بطرق جديدة لتهديد الإنسانية.

هل يمكننا تحقيق كلا الطرفين؟ يشعر البعض بالقلق من أننا سنذهب إلى الطريق نصف المخبوز. سوف نحصر AGI بشدة وبالتالي لا يمكن أن تفعل أشياء معجزة مثل علاج السرطان ، ولكن على الأقل لن ينحرف في مناطق سلبية مثل الأسلحة الحيوية. هذا الشكل الصامت من Agi لا يبدو وكأنه الكثير من الهبة.

نحن بحاجة إلى الحفاظ على النقر في هذا الشأن. كما ذكر فولتير: “لا توجد مشكلة يمكن أن تصمد أمام الاعتداء على التفكير المستمر”. دعونا جميعًا نبقي قبعات تفكيرنا بشكل مباشر على رؤوسنا الجماعية ونكتشف كيفية حل هذه القضية المذهلة الكامنة وراء ظهور AGI.