واجهت جويل بينو مفهوم التحيز في الذكاء الاصطناعي لأول مرة منذ ربع قرن عندما كانت طالبة في جامعة واترلو، أونتاريو. تم تجنيدها في مشروع بالجامعة للمساعدة في تدريب نظام التعرف على الصوت لطياري طائرات الهليكوبتر.
ولبناء نظام غير متحيز، أرادوا أن تقوم الطيارات بتدريب التكنولوجيا ولكن لم يتمكنوا من العثور على أي منها متاح. لذلك كان بينو، وهو خريج هندسة، يجلس بجوار الطيار في قمرة القيادة، وتم تسجيل صوته للمساعدة في تدريب النظام على مستويات التوتر التي قد يتعرض لها الطيار عادةً.
وتتذكر قائلة: “لقد قبلت التحدي”. “لقد كانت تجربة علمية صارمة للغاية، هذه التجربة المتمثلة في القضاء على التحيز في بياناتك وإيجاد حل لها. لا يعني ذلك أن لدينا ما يكفي [of a] عينة لتقديم حجة قوية حقًا، ولكن، على الأقل، يمكننا الحصول على مقياس للتحيز وأداء النظام للإبلاغ عن الفجوة.
ويتحدث بينو، البالغ من العمر الآن 49 عامًا، افتراضيًا من غرفة في مكاتب شركة ميتا في نيويورك، تسمى “الأبحاث القابلة للتكرار”. وهي الآن نائبة رئيس أبحاث الذكاء الاصطناعي في شركة Meta، وهي شركة التكنولوجيا التي تمتلك Facebook وInstagram وWhatsApp.
Meta هي الشركة الرائدة في تطوير الذكاء الاصطناعي. يجري مختبر أبحاث الذكاء الاصطناعي الأساسي (المعرض) التابع لها أبحاثًا طويلة المدى لشركة Meta ويهدف إلى تحقيق اختراقات علمية في التكنولوجيا، والتي يتم تنفيذها في منتجاتها عبر المنصات.
حدد الرئيس التنفيذي مارك زوكربيرج رؤيته لبناء ذكاء اصطناعي عام، حيث تتمتع الأنظمة بمستوى ذكاء مساوٍ لمعظم البشر. تقول Meta إنها تريد بناء هذا على مصدر مفتوح، مما يجعل التكنولوجيا متاحة بسهولة للمطورين والأكاديميين بدلاً من خلف أنظمة الملكية المغلقة.
Llama، سلسلة نماذجها اللغوية الكبيرة مفتوحة المصدر، تنافس النماذج المغلقة من منافسين مثل OpenAI، وGoogle، وAnthropic. وقد تم استخدامه في Meta AI، وهي واجهة يمكن للمستخدمين الدردشة معها في WhatsApp وFacebook، وكذلك لإنشاء الصور.
يتم إجراء أبحاث Meta المتقدمة عبر Fair، حيث يقود Pineau حوالي 1000 شخص عبر 10 مواقع. وتقول: “إنها مسؤولية كبيرة”. “في بعض الأحيان، أرى الأشياء في مختبر الأبحاث الخاص بنا، وبعد بضعة أشهر فقط قبل أن تصبح في أيدي الملايين، إن لم يكن المليارات، من الناس.”
من ماذا كان الطريق هل هو موسيقي ناشئ وعالم رياضيات قادر على تشكيل بعض أقوى التقنيات في العالم؟
وتقول إن افتتان بينو بالمواضيع المعقدة نشأ من حبها للرياضيات «منذ صغرها». “أتذكر أنني كنت مفتونًا بالمفاهيم الرياضية الأساسية مثل قوانين القوة أو القاعدة اللوغاريتمية.” بقي الاهتمام الشديد بالموسيقى – العزف على البيانو والفيولا في فرق الأوركسترا – هواية في نهاية المطاف.
عندما كان بينو في التاسعة عشرة من عمره، كانت أول وظيفة له هي العمل في وزارة الموارد الطبيعية الكندية، حيث قام ببناء نماذج تتعلق بالطاقة الشمسية في المزارع السمكية. وفي وقت لاحق، عملت في معمل أبحاث الحرائق في مسقط رأسها، أوتاوا. حصلت على درجة الدكتوراه في الروبوتات من جامعة كارنيجي ميلون، حيث قامت ببناء روبوتات متجولة يمكنها اكتشاف العوائق والمساعدين في دور رعاية المسنين والتغلب عليها.
عندها اكتشفت الذكاء الاصطناعي والتعلم الآلي، وبناء الخوارزميات وروبوتات الدردشة – وهي تمهيدات للتكنولوجيا المتقدمة وراء Meta AI وروبوت ChatGPT المدعوم من OpenAI، اليوم. “لقد كان الأمر بدائيًا جدًا في ذلك الوقت، في أواخر التسعينيات، لكنه كان ممتعًا.”
يقول بينو إنه أثناء تدريس علوم الكمبيوتر في جامعة ماكجيل بمونتريال، “جاء وقت كان من الواضح فيه أن الكثير من أكبر الابتكارات في مجال الذكاء الاصطناعي ستحدث في الصناعة”. لذلك، في عام 2017، انضمت إلى شركة ميتا، التي كانت تعرف آنذاك باسم فيسبوك، لفتح مختبرها العادل في كندا، إلى جانب المختبرات الموجودة في باريس ونيويورك.
وتقول: “لقد قفزت بفضول بشأن ما يمكنك القيام به في مجال البحث عندما يكون لديك استثمار على مستوى الصناعة”. “كانت ميتا هي الوحيدة [company] التي كان لديها التزام بالعلم المفتوح والبحث المفتوح. ولذلك لم أكلف نفسي عناء إجراء المقابلات في أي مكان آخر.”
تقول إن بينو لم تكن تعتزم أن تصبح قائدة، وتعترف بأنه “من الصعب بعض الشيء العثور على أشخاص لديهم القدرة على إجراء الأبحاث، والشهية لتحمل المزيد من المسؤولية الإدارية”. لكنها الآن جزء من فريق قيادي يضم الإناث أكثر من الذكور.
“لم أقم بتعيين معظم هؤلاء الأشخاص [Fair]تقول: “لكنني خلقت الفرص ودعمت أدوارهم”. ثم تضيف: «من الأسهل أيضًا كقائدة أن تجتذب نساء أخريات . . . وهذا أيضًا جزء مهم آخر من المعادلة.
خلال مسيرتها الجامعية، كانت بينو واحدة من 15 امرأة في مجموعة مكونة من 75 شخصًا في واترلو، وواحدة من ست من بين 20 امرأة في مجال الروبوتات في جامعة كارنيجي ميلون. واليوم، لا يزال عدد النساء المنضمات إلى قطاع التكنولوجيا منخفضًا، وفي عام 2019، وجدت شركة الخدمات المهنية أكسنتشر أن نصفهن غادرن العمل في سن 35 عامًا.
“أي شيء أقوله، عليك أن تضعه من خلال مرشح “تحيز الناجين”. . . وتقول: “ما زلت أعمل في هذا المجال، ربما لأنني مررت بعدد من التجارب الإيجابية للغاية”. تستشهد بينو بالدعم الذي حصلت عليه، مع مرور الوقت، من عدد من الزملاء والاتصالات الكرماء. لكنها كانت أيضًا “مدركة تمامًا” لعدم التوازن بين الرجال والنساء في هذا المجال.
يعتقد بينو أن الأوساط الأكاديمية قد قطعت “خطوات ملحوظة”، وأن التدابير مثل السماح للطلاب بالتخصص أو تغيير موضوعهم خلال الدورة الدراسية يمكن أن تساعد في تحسين التوازن بين الجنسين.
وهي لا تزال تابعة لجامعة ماكجيل وتعيش في مونتريال، حيث إن تشغيل الموسيقى والجري وقضاء الوقت مع الأصدقاء خارج عالم التكنولوجيا “يمنحني منظورًا مختلفًا تمامًا” عن نظرائي في كاليفورنيا.
هذه المسافة القصيرة، إلى جانب تاريخ طويل من العمل في مجال الذكاء الاصطناعي، أعطتها وجهات نظر قيمة في الوقت الذي يتصارع فيه العالم مع الضجيج والقلق بشأن إمكانات هذه التكنولوجيا القوية.
“لا يمكن لأحد أن يتنبأ بالمستقبل حقًا، ولكن هناك بالتأكيد لحظة [happening now]”، تجادل. “منذ إطلاق ChatGPT، ولأول مرة، كل يوم، يمكن لأي شخص، في أي مكان، تجربة الذكاء الاصطناعي بطريقة مختلفة تمامًا. السابق لذلك . . . لقد كان غير مرئي نوعًا ما.
بالنسبة لفير، لا يزال هناك “الكثير من مشاكل البحث المفتوحة”، وعلى نطاق أوسع في ميتا، أسئلة حول جانب المنتج والتنظيم.
يقول بينو: “هناك الكثير من التدقيق، ولكن هناك أيضًا الكثير من الأسئلة الجيدة والمهمة التي نحتاج إلى اتخاذ قرار بشأنها كمجتمع”. “كيف سنضع أنفسنا؟ ليس هناك إجابة صحيحة أو خاطئة. ما هي الطرق التي نريد أن نعمل بها معًا لخلق بيئة تدعم الابتكار، وتحافظ على سلامة الأشخاص، وتحترم عمل المبدعين؟
“علينا أن نجد الطرق الصحيحة لنسج كل ذلك معًا.”