تثبيت الإبادة الجماعية البيضاء لـ Grok الناجم عن “التعديل غير المصرح به”
بعد أن أمضى Chatbot Grok من Xai بضع ساعات يوم الأربعاء ، أخبر كل مستخدم X الذي يستمع إلى أن مطالبة الإبادة الجماعية البيضاء في جنوب إفريقيا هي مثيرة للجدل للغاية ، ألقت الشركة باللوم على السلوك على “تعديل غير مصرح به” على رمز Grok.
شهدت فورة يوم الأربعاء على مدار ساعات مناقشة Grok Insert عن الإبادة الجماعية البيضاء المزعومة في جنوب إفريقيا إلى استجابات مختلفة على X ، بغض النظر عن الموضوع. ناقش جروك وفاة المزارعين البيض في الرد على مقطع فيديو لمياه شرب القط ، وربط أغنية “Kill the Boer” بسؤال عن Spongebob Squarepants، وانهار القضية في Patois الكامل. حتى أن الرئيس التنفيذي لشركة Openai Sam Altman حصل على هذا الحدث ، وسخت في الانهيار العام لـ Chatbot المنافس.
في بيان صادر عن X ، قال الشركة إن شخصًا ما قام بتعديل موجه نظام AI Bot ، “الذي أمر Grok بتوفير استجابة محددة حول موضوع سياسي”. هذا التعديل “انتهك السياسات الداخلية لـ XAI والقيم الأساسية” ، وتقول الشركة إنها “أجرت تحقيقًا شاملاً” وتنفيذ تدابير جديدة لتحسين “الشفافية والموثوقية”.
تتضمن هذه التدابير نشر مطالبة مستوى نظام Grok علنًا على Github ، وإطلاق فريق مراقبة على مدار الساعة طوال أيام الأسبوع لالتقاط مشكلات مثل هذا بسرعة أكبر ، وإضافة “شيكات ومقاييس إضافية للتأكد من أنه لا يمكن لموظفي XAI تعديل المطالبة دون مراجعة”.
لقد واجهت هذه المشكلة من قبل. ألقت الشركة باللوم على موظف سابق في Openai في فبراير / شباط بسبب دفعه إلى مطالبات Grok التي شهدت أن chatbot تتجاهل أي مصادر اتهمت Elon Musk أو Donald Trump بنشر المعلومات الخاطئة. في ذلك الوقت ، قال رئيس الهندسة في Xai ، Igor Babuschkin ، إن الموظف كان قادرًا على إجراء التغيير “دون أن يطلب من أي شخص في الشركة التأكيد”.