مقاطع الفيديو العنصرية المصنوعة من الذكاء الاصطناع

تم إنشاء مقاطع الفيديو العنصرية التي يبدو أنها تم إنشاؤها باستخدام أداة توليد الفيديو من AI من Google في Veo 3 بملايين المشاهدات عبر Tiktok ، وفقًا لنتائج من Media Desparog Media غير الربحية. تمتلئ مقاطع الفيديو التي تم إنشاؤها بواسطة AI التي كشفت عنها المنظمة بالتربيات العنصرية ، والتي يستهدف الكثير منها السود.

قررت Media Matters أن مقاطع الفيديو – التي تلقت واحدة منها 14.2 مليون مشاهدة – تم إنشاؤها مع Google Veo 3 بسبب علامة مائية “Veo” في زاوية المقاطع. قام بعض المستخدمين أيضًا بإدراج علامات التجزئة أو التسميات التوضيحية أو أسماء المستخدمين المتعلقة بـ VEO 3 أو AI ، وفقًا لمادة الوسائط. استمر كل مقطع عثر عليه المؤسسة ثماني ثوانٍ فقط ، أو كان “يتكون من مقاطع متعددة لا تدوم كل منها أكثر من 8 ثوان” ، والتي تتتبع حدود VEO 3 لمدة ثمانية ثوانٍ.

يتيح VEO 3 ، الذي تم إطلاقه بواسطة Google in May ، للمستخدمين إنشاء مقاطع فيديو AI والصوت مع موجه نص. على موقعها على الإنترنت ، تقول Google إنها “ستقوم بحظر الطلبات والنتائج الضارة”. تنص قواعد Tiktok بالمثل على أن “خطاب الكراهية والسلوك البغيض ليس له مكان على Tiktok” ، وأن النظام الأساسي “لن يوصي المحتوى الذي يحتوي على صور نمطية سلبية عن شخص أو مجموعة ذات سمة محمية”.

حرية تم العثور على بعض مقاطع الفيديو التي أبرزتها Media Matters كانت أيضًا على YouTube ولكن مع عدد أقل من المشاهدات ، بينما سلكية اكتشف أيضًا مقاطع فيديو مماثلة من الذكاء الاصطناعي على Instagram. تحتوي مقاطع الفيديو الأخرى التي وجدتها Media Matters على محتوى معادي للسامية وتصوير عنصري للمهاجرين والشعب الآسيوي.

لم يستجب Google ولا Tiktok على الفور حريةطلب التعليق.