الخط العلوي
أعلن Instagram يوم الجمعة عن مجموعة من ميزات الأمان للمستخدمين المراهقين الذين يستخدمون روبوتات الدردشة المدعومة بالذكاء الاصطناعي على تطبيق الوسائط الاجتماعية والتي تتضمن ضوابط أبوية موسعة، وسط مخاوف بشأن تأثير روبوتات الدردشة هذه على الصحة العقلية للمستخدمين الصغار بعد وفاة مراهق من كاليفورنيا يُزعم أنه شجعه ChatGPT من OpenAI على الانتحار.
حقائق أساسية
وفي منشور بالمدونة، قالت الشركة إن ميزات الأمان الجديدة الخاصة بها ستمنح الآباء مزيدًا من التحكم في كيفية تفاعل أطفالهم المراهقين مع “شخصيات الذكاء الاصطناعي” في Instagram – وهي روبوتات دردشة مخصصة للذكاء الاصطناعي يمكن للمستخدمين إنشاؤها باستخدام استوديو Meta’s AI.
سيتم إطلاق ميزات الرقابة الأبوية على التطبيق “في أوائل العام المقبل”، وستسمح للآباء “بإيقاف وصول أبنائهم المراهقين إلى المحادثات الفردية مع شخصيات الذكاء الاصطناعي بالكامل”.
يمكن للوالدين أيضًا حظر “شخصيات محددة تعمل بالذكاء الاصطناعي” والحصول على “أفكار حول المواضيع التي يتحدث عنها المراهقون مع شخصيات الذكاء الاصطناعي”.
سيظل المستخدمون المراهقون قادرين على الوصول إلى مساعد Meta’s AI، والذي سيكون لديه “وسائل حماية مناسبة لأعمارهم” وستكون تفاصيل هذه المحادثات متاحة للآباء أيضًا.
وقالت الشركة إنها بدأت في طرح إجراءات حماية إضافية، بما في ذلك فرض قيود على شخصيات الذكاء الاصطناعي التي تشارك في “مناقشات غير مناسبة لعمرها حول إيذاء النفس أو الانتحار أو الأكل المضطرب مع المراهقين، أو المحادثات التي تشجع هذه المواضيع أو تروج لها أو تمكّنها”.
هذه قصة متطورة.
