ابق على اطلاع مع التحديثات المجانية
ببساطة الاشتراك في الذكاء الاصطناعي Myft Digest – يتم تسليمها مباشرة إلى صندوق الوارد الخاص بك.
حذر اثنان من رواد التعلم التعزيز ، وهي تقنية علمية كانت أساسية لطفرة الذكاء الاصطناعي ، من النشر غير الآمن لنماذج الذكاء الاصطناعى بعد الفوز بجائزة Turing لهذا العام.
فاز أندرو بارتو ، أستاذ فخري بجامعة ماساتشوستس ، وريتشارد سوتون ، الأستاذ بجامعة ألبرتا وعالم أبحاث سابق في ديبميند ، بجائزة 1 مليون دولار من جمعية الآلات الحاسوبية لتطوير الطريقة الأولية.
طور بارتو وسوتون التعلم التعزيز في الثمانينيات بعد أن استلهمهما علم النفس وكيف يتعلم الناس. ساعدت تقنية التعلم الآلي ، التي تكافئ أنظمة الذكاء الاصطناعي للتصرف بطريقة مرغوبة ، على توزيع نجاح بعض أفضل مجموعات الذكاء الاصطناعي في العالم ، مثل Openai و Google.
قال الفائزون بالجائزة ، التي غالباً ما يطلق عليها اسم جائزة نوبل للحوسبة ، إنهم قلقون بشأن شركات الذكاء الاصطناعى المتسرعة لإطلاق المنتجات قبل اختبارها بدقة.
وقال بارتو: “إن إطلاق البرمجيات لملايين الأشخاص الذين ليس لديهم ضمانات ليس ممارسة هندسية جيدة” ، يشبهه ببناء جسر واختباره من خلال جعل الناس يستخدمونه.
وأضاف: “لقد تطورت الممارسة الهندسية لمحاولة تخفيف العواقب السلبية للتكنولوجيا ، ولا أرى أن الشركات التي تتطور”.
تأتي الجائزة ، التي سميت على اسم عالم الرياضيات البريطاني آلان تورينج ، بعد أن تم الاعتراف باختراقات منظمة العفو الدولية أيضًا في كل من جوائز نوبل الكيمياء والفيزياء في أكتوبر. وقد أبرز ذلك أهمية أدوات الحوسبة وعلوم البيانات في تكسير المشكلات العلمية المعقدة في النطاقات الزمنية الأقصر بكثير.
“الأدوات [Barto and Sutton] تظل المطورة عمودًا رئيسيًا لطفرة الذكاء الاصطناعى ، وقد قدمت تقدمًا كبيرًا ، وجذبت جحافل من الباحثين الشباب ، ودفع مليارات الدولارات في الاستثمارات. [Reinforcement learning’s] وقال جيف دين ، نائب الرئيس الأول في Google ، الذي رعى الجائزة ، إن التأثير سيستمر بشكل جيد في المستقبل “.
استخدمت Google Deepmind هذه التقنية لتطوير AlphaGo ، وهو نظام منظمة العفو الدولية التي تغلب على اللاعبين البشر في اللعبة ، وهو معلم رئيسي في أبحاث الذكاء الاصطناعي. استخدم Openai أيضًا نوعًا من التعلم التعزيز الذي يعتمد على ردود الفعل البشرية للتحكم في ناتج ChatGPT.
لكن كل من بارتو وسوتون حذروا من الوتيرة الحالية لتطوير الذكاء الاصطناعي ، حيث تتسابق الشركات لإطلاق نماذج قوية ولكنها عرضة لارتكاب الأخطاء ، وزيادة مبالغ غير مسبوقة من التمويل واستثمار المليارات في البنية التحتية مثل مراكز البيانات لتدريب AI.
قالت مجموعات التكنولوجيا الكبرى إن إنفاق الذكاء الاصطناعي قد يتجاوز 320 مليار دولار هذا العام ، في حين أن Openai ، الذي أطلق ChatGPT في عام 2022 ، يجمع حاليًا 40 مليار دولار في تمويل جديد بتقييم 260 مليار دولار.
انتقد بارتو قطاع الذكاء الاصطناعى لأنه مدفوع بحوافز العمل ، بدلاً من تعزيز أبحاث الذكاء الاصطناعي. وأضاف: “إن فكرة وجود مراكز بيانات ضخمة ثم شحن مبلغ معين لاستخدام البرنامج تحفز الأشياء ، وهذا ليس الدافع الذي سأشترك فيه”.
جادل Openai بأنه يحتاج إلى فتح مزيد من الاستثمار من خلال هيكل الشركات التقليدي الأكثر تقليدية من أجل تحقيق “مهمة” تأسيس الشركة لضمان أن الذكاء العام الاصطناعي (AGI) – سيناريو حيث تحقق أنظمة الكمبيوتر مستويات متشابهة من الذكاء للبشر – تستفيد من الإنسانية.
لكن سوتون رفض رواية شركات التكنولوجيا حول AGI على أنها “الضجيج”. “Agi مصطلح غريب لأنه كان هناك دائمًا منظمة العفو الدولية والأشخاص الذين يحاولون فهم الذكاء.” وأضاف أن “أنظمة أكثر ذكاءً من الناس” ستحدث في النهاية من خلال فهم أفضل للعقل البشري.
كما انتقد بارتو وسوتون محاولة الرئيس الأمريكي دونالد ترامب لخفض الإنفاق الفيدرالي على الأبحاث العلمية ووضع الموظفين في وكالات العلوم الأمريكية.
وقال بارتو ، الذي أطلق عليه “خطأ ومأساة ليس فقط لهذا البلد بل إلى العالم”.
وأضاف أن الفرص اللازمة للقيام بنوع البحث الذي مكن عملهم في التعلم التعزيز “تختفي” دون حرية استكشاف مفاهيم مجردة غير مثبتة.
على الرغم من مخاوفهم ، فإن كلا العلماء متفائلون بشأن احتمال التعلم التعزيز ، إلى جانب الذكاء الاصطناعي ، لتحقيق نتائج إيجابية للعالم.
“لدينا القدرة على أن نصبح أقل جشعًا وأنانيًا وأكثر وعياً بما يجري في الآخرين. . . قال سوتون: “هناك العديد من الأشياء الخاطئة في العالم ، لكن الكثير من الذكاء ليس أحدهم”.
