Video-video rasis yang dihasilkan oleh kecerdasan buatan (AI) Google, Veo 3, telah menjadi viral di TikTok, ditonton jutaan kali. Hal ini pertama kali diungkap oleh Media Matters, sebuah lembaga pengawas media independen.
Berbagai video tersebut menampilkan konten rasisme yang menargetkan orang kulit hitam. Salah satu video bahkan mencapai 14,2 juta penayangan.
Video Rasis Buatan Google Veo 3 Viral di TikTok
Daftar Isi
Media Matters mengidentifikasi video-video tersebut sebagai buatan Google Veo 3 karena adanya watermark “Veo” di sudut klip. Beberapa pengguna juga menyertakan tagar, deskripsi, atau nama pengguna yang terkait dengan Veo 3 dan AI.
Durasi setiap klip pendek, tidak lebih dari delapan detik, sesuai dengan batasan durasi Veo 3. Hal ini menunjukkan bagaimana AI yang seharusnya mencegah konten berbahaya malah menghasilkan konten yang sangat merugikan.
Mengenal Veo 3 dan Tanggapan TikTok
Google meluncurkan Veo 3 pada Mei lalu. AI ini memungkinkan pengguna untuk menghasilkan klip video dan audio dari teks.
Google mengklaim akan memblokir permintaan dan hasil video yang berbahaya. Namun, kenyataannya, konten rasis justru tersebar luas.
TikTok sendiri memiliki kebijakan yang ketat terhadap ujaran kebencian. Platform ini berkomitmen untuk tidak merekomendasikan konten yang mengandung stereotip negatif terhadap individu atau kelompok yang memiliki atribut dilindungi.
Juru bicara TikTok, Ariane de Sellier, menyatakan bahwa mereka secara proaktif menegakkan aturan tersebut. Banyak akun yang telah dihapus, dan banyak video telah diblokir sebelum laporan Media Matters diterbitkan.
Google Belum Berikan Tanggapan Resmi
Selain di TikTok, video serupa juga ditemukan di YouTube dan Instagram, meskipun dengan jumlah penayangan yang lebih sedikit. Media Matters juga menemukan video-video dengan konten antisemit dan penggambaran rasis terhadap imigran dan orang Asia.
The Verge telah mencoba meminta klarifikasi dari Google, namun hingga saat ini belum mendapatkan tanggapan.
Kejadian ini menyoroti tantangan dalam pengembangan dan penerapan AI. Meskipun teknologi AI menawarkan banyak manfaat, potensi penyalahgunaan dan dampak negatifnya perlu diperhatikan serius. Perusahaan pengembang AI perlu meningkatkan sistem filter dan pengawasan untuk mencegah penyebaran konten berbahaya. Regulasi dan pengawasan yang lebih ketat juga dibutuhkan untuk memastikan AI digunakan secara bertanggung jawab dan etis.
Kejadian ini menjadi peringatan penting tentang perlunya pengawasan yang ketat terhadap teknologi AI dan bagaimana algoritma dapat memperkuat bias dan menyebarkan konten berbahaya. Perlu kolaborasi antara perusahaan teknologi, regulator, dan masyarakat sipil untuk memastikan pengembangan dan penggunaan AI yang bertanggung jawab dan etis.
