ابق على اطلاع مع التحديثات المجانية
ببساطة الاشتراك في الشركات الأمريكية Myft Digest – يتم تسليمها مباشرة إلى صندوق الوارد الخاص بك.
قد يكون من الصعب تدريب chatbot. في الشهر الماضي ، تراجعت Openai إلى تحديث إلى ChatGpt لأن “شخصيتها الافتراضية” كانت شديدة الانتباه. (ربما تم أخذ بيانات تدريب الشركة من نصوص اجتماعات رئيس مجلس الوزراء الخاصة بالرئيس الأمريكي دونالد ترامب …)
أرادت شركة الذكاء الاصطناعي جعل chatbot أكثر سهولة ، لكن ردودها على استفسارات المستخدمين منحرفة نحو الداعمة المفرطة والكهنة. وقالت الشركة في منشور مدونة: “يمكن أن تكون التفاعلات السينية غير مريحة ، ومثيرة للقلق ، وتسبب ضائقة. لقد قصرنا ونعمل على الحصول عليها بشكل صحيح”.
قد لا تكون إعادة برمجة الدردشة السينية هي المعضلة الأكثر أهمية التي تواجه Openai ولكنها تتناغم مع التحدي الأكبر: خلق شخصية جديرة بالثقة للشركة ككل. هذا الأسبوع ، أُجبرت Openai على إعادة أحدث تحديث للشركات المخطط لها المصممة لتحويل الشركة إلى كيان ربحية. بدلاً من ذلك ، ستنتقل إلى شركة المنافع العامة ، وتبقى تحت سيطرة لوحة غير ربحية.
لن يحل هذا التوترات الهيكلية في قلب Openai. ولن يرضي إيلون موسك ، أحد مؤسسي الشركة ، الذين يتابعون إجراءات قانونية ضد Openai بسبب الابتعاد عن هدفها الأصلي. هل تقوم الشركة بتسريع نشر منتج الذكاء الاصطناعي لإبقاء مؤيديها الماليين سعداء؟ أم أنها تتابع نهجًا علميًا أكثر تداولًا للبقاء وفيا لنواياه الإنسانية؟
تأسست Openai في عام 2015 كمختبر أبحاث غير ربحية مكرس لتطوير الذكاء العام الاصطناعي لصالح الإنسانية. لكن مهمة الشركة – وكذلك تعريف AGI – كانت غير واضحة منذ ذلك الحين.
سرعان ما أدرك سام ألمان ، الرئيس التنفيذي لشركة Openai ، أن الشركة تحتاج إلى مبالغ هائلة من رأس المال لدفع ثمن المواهب البحثية وقوة الحوسبة المطلوبة للبقاء في طليعة أبحاث الذكاء الاصطناعي. تحقيقًا لهذه الغاية ، أنشأ Openai شركة تابعة للربح في عام 2019. كان هذا هو النجاح الذي حققه Chatbot Chatgpt بأن المستثمرين سعداء برمي الأموال فيه ، حيث قاموا بتقييم Openai بمبلغ 260 مليار دولار خلال أحدث جمع التبرعات. مع وجود 500 مليون مستخدم أسبوعي ، أصبح Openai عملاقًا للإنترنت للمستهلكين “عرضي”.
يقول Altman ، الذي تم فصله وترشيحه من قبل مجلس الإدارة غير الربحية في عام 2023 ، إنه يريد الآن بناء “دماغ للعالم” الذي قد يتطلب مئات المليارات ، إن لم يكن تريليونات ، من الدولارات الإضافية. المشكلة الوحيدة في طموحه البري-هي أن المدون التكنولوجي إد زيترون يتجول في المصطلحات المالحة بشكل متزايد-لم يطور Openai نموذجًا تجاريًا قابلًا للتطبيق. في العام الماضي ، أنفقت الشركة 9 مليارات دولار وخسرت 5 مليارات دولار. هل تقييمه المالي يعتمد على الهلوسة؟ سيكون هناك ضغط متزايد على Openai من المستثمرين بسرعة لتسويق تقنيتها.
علاوة على ذلك ، فإن تعريف AGI يستمر في التحول. تقليديا ، فقد أشار إلى النقطة التي تتجاوز فيها الآلات البشر عبر مجموعة واسعة من المهام المعرفية. ولكن في مقابلة أجريت معه مؤخراً مع بن طومسون من Stratechery ، أقر Altman أن المصطلح “قد انخفض قيمته تمامًا”. ومع ذلك ، فإنه يقبل تعريفًا أضيق لـ AGI كعامل ترميز مستقل يمكنه كتابة البرامج وأي إنسان.
في هذه النتيجة ، يبدو أن شركات الذكاء الاصطناعى الكبير تعتقد أنها قريبة من AGI. ينعكس هبة واحدة في ممارسات التوظيف الخاصة بهم. وفقًا لـ Zeki Data ، كانت أفضل 15 شركة أمريكية منظمة العفو الدولية توظف مهندسي برمجيات بشكل محموم بمعدل يصل إلى 3000 شهريًا ، حيث قاموا بتوظيف ما مجموعه 500000 بين عامي 2011 و 2024. ولكن في الآونة الأخيرة انخفض معدل التوظيف الشهري الصافي إلى الصفر حيث تتوقع هذه الشركات أن وكلاء الذكاء الاصطناعي يمكنهم أداء العديد من نفس المائد.
أبرزت ورقة بحث حديثة من Google DeepMind ، التي تطمح أيضًا إلى تطوير AGI ، أربعة مخاطر رئيسية لنماذج الذكاء الاصطناعى المستقلة بشكل متزايد: إساءة استخدام الجهات الفاعلة السيئة ؛ اختلال عندما يقوم نظام الذكاء الاصطناعي بأشياء غير مقصودة ؛ الأخطاء التي تسبب ضررًا غير مقصود ؛ والمخاطر متعددة الوكلاء عندما تنتج التفاعلات غير المتوقعة بين أنظمة الذكاء الاصطناعي نتائج سيئة. هذه كلها تحديات تحرك العقل التي تحمل بعض المخاطر الكارثية وقد تتطلب بعض الحلول التعاونية. كلما أصبحت نماذج الذكاء الاصطناعى الأكثر فعالية ، يجب أن يكون المطورون الأكثر حذراً في نشرها.
كيف تحكم شركات AI الحدودية ليست مجرد مسألة لمجالس الشركات والمستثمرين ، ولكن بالنسبة لنا جميعًا. لا يزال Openai ناقصًا في هذا الصدد ، مع نبضات متضاربة. ستكون المصارعة مع sycophancy أقل مشاكلها مع اقترابنا من AGI ، ومع ذلك تحددها.
john.thornhill@ft.com
