ماذا تفعل عندما يتم قصف موقع الويب الخاص بك بتحميلات لا يمكن معالجتها؟ هذا هو الموقف الذي وجده مطور برامج وموسيقيه أدريان هولوفاتي نفسه عندما لاحظ زيادة غريبة في التحميلات الفاشلة على الماسح الضوئي للموسيقى في شركته.
ما لم يتوقعه هو أن الجاني كان يزعم أن تشاتغبت.
في منشور مدونة حديثًا ، أوضح المؤسس المشارك لـ SoundLice أنه كان يبحث في سجلات الأخطاء عندما اكتشف أن ChatGpt كان يوجه المستخدمين إلى تحميل ASCII “علامات التبويب”-وهو تنسيق موسيقي بسيط يستخدمه عازفو الجيتار وغيرهم بدلاً من التدوين الموسيقي-على into soundlice لسماع عودة الصوت. كانت المشكلة ، ولم تكن الميزة موجودة. لذلك قرر Holovaty بنائه.
وكتب هولوفاتي: “على حد علمي ، هذه هي الحالة الأولى لشركة تقوم بتطوير ميزة لأن ChatGpt تخبر الأشخاص بشكل غير صحيح”.
تم إطلاق SoundLice في عام 2012 ، وهي عبارة عن منصة تفاعلية لتعلم الموسيقى ومشاركتها تقوم برقمنة الموسيقى من الصور الفوتوغرافية أو ملفات PDF.
وكتب هولوفاتي: “لم يكن المقصود نظام المسح الخاص بنا دعم هذا النمط من الترميز”. “لماذا ، إذن ، تم قصفنا مع العديد من لقطات شاشة TACGPT ASCII؟ لقد كنت محيرًا منذ أسابيع – حتى أفسدت مع Chatgpt بنفسي.”
“لم ندعم Tab ASCII أبدًا ؛ كان Chatgpt يكذب تمامًا على الناس. وجعلنا نبدو سيئًا في هذه العملية ، ووضع توقعات خاطئة حول خدمتنا.”
ظاهرة الهلوسة من الذكاء الاصطناعي شائعة. منذ الإطلاق العام لـ ChatGPT في عام 2022 ، قدمت العديد من مثيلات chatbots ، بما في ذلك chatgpt و Google Gemini و Claude AI ، معلومات خاطئة أو مضللة كحقيقة.
في حين أن Openai لم يذكر ادعاءات Holovaty ، أقرت الشركة بأن الهلوسة لا تزال مصدر قلق.
وقال متحدث باسم Openai “معالجة الهلوسة هي مجال بحث مستمر”. فك تشفير. “بالإضافة إلى إبلاغ المستخدمين بوضوح أن ChatGPT يمكن أن يرتكبوا أخطاء ، فإننا نعمل باستمرار على تحسين دقة وموثوقية نماذجنا من خلال مجموعة متنوعة من الطرق.”
ينصح Openai للمستخدمين بمعالجة استجابات ChatGPT كمسودات أولى والتحقق من أي معلومات مهمة من خلال مصادر موثوقة. تنشر بيانات تقييم النموذج في بطاقات النظام ومركز تقييم السلامة.
وقال وايت مايهام لشركة Northwest Consulting: “الهلوسة لا تختفي”. فك تشفير. “في بعض الحالات ، مثل الكتابة الإبداعية أو العصف الذهني ، يمكن أن تكون الهلوسة مفيدة بالفعل.”
وهذا بالضبط هو النهج الذي تبنىه هولوفاتي.
وقال: “لقد انتهى بنا الأمر إلى اتخاذ قرار: ما هيك؟ قد نلتقي أيضًا بطلب السوق”. “لذلك قمنا بتجميع مستورد Tab ASCII مخصص ، والذي كان بالقرب من أسفل البرنامج الذي كنت أتوقع أن أكتبه في عام 2025 ، وقمنا بتغيير نسخة واجهة المستخدم في نظام المسح الخاص بنا لإخبار الناس عن هذه الميزة.”
لم يستجب هولوفاتي فك التشفير طلب التعليق.