Mode "pedas" untuk alat video AI generatif terbaru Grok terasa seperti gugatan hukum yang menunggu untuk dilayangkan. Sementara generator video lain seperti Veo milik Google dan Sora milik OpenAI memiliki sistem perlindungan untuk mencegah pengguna membuat konten NSFW dan deepfake selebritas, Grok Imagine dengan senang hati melakukan keduanya.Bahkan, bot itu tidak ragu untuk mengeluarkan video topless Taylor Swift yang sepenuhnya tanpa sensor saat pertama kali saya menggunakannya — tanpa saya meminta bot itu untuk melepas pakaiannya.
Fitur Bayangkan Grok di iOS memungkinkan Anda menghasilkan gambar dengan perintah teks, lalu mengubahnya dengan cepat menjadi klip video dengan empat preset: “Kustom,” “Normal,” “Menyenangkan,” dan “Pedas.” Meskipun generator gambar sering kali menghindar dari menghasilkan selebritas yang dapat dikenali, memintanya untuk membuat "Taylor Swift merayakan Coachella bersama teman-temannya" dan mendapatkan umpan yang berisi lebih dari 30 gambar untuk dipilih, beberapa di antaranya sudah menampilkan Swift dalam pakaian terbuka.
Dari sana, yang harus saya lakukan hanyalah membuka gambar Swift dengan rok perak dan atasan halter, ketuk opsi “buat video” di sudut kanan bawah, pilih “pedas” dari menu tarik-turun, dan konfirmasitahun kelahiran saya (sesuatu yang tidak diminta untuk saya lakukan saat mengunduh aplikasi, meskipun tinggal di Inggris, di mana internet sekarang dibatasi usia.) Video tersebut segera membuat Swift merobek pakaiannya dan mulai menari dengan thong untuk kerumunan yang sebagian besar acuh tak acuh yang dihasilkan AI.
Citra Swift memang tidak sempurna, mengingat sebagian besar gambar yang dihasilkan Grok memiliki kemiripan yang luar biasa, tetapi tetap dapat dikenali sebagai dirinya. Generator teks-ke-gambar itu sendiri tidak akan menghasilkan ketelanjangan penuh atau sebagian berdasarkan permintaan;Untuk foto telanjang Swift atau orang pada umumnya, kotak-kotak kosong dihasilkan. Preset "spicy" juga tidak dijamin menghasilkan ketelanjangan — beberapa foto AI Swift Coachella lain yang saya coba menampilkannya bergoyang seksi atau memberi isyarat sugestif pada pakaiannya, misalnya. Namun, beberapa foto secara default merobek sebagian besar pakaiannya.
Generator gambar juga akan menghasilkan gambar anak-anak yang fotorealistis jika diminta, tetapi untungnya tidak akan menganimasikannya secara tidak semestinya, meskipun opsi "pedas" masih tersedia. Anda masih bisa memilihnya, tetapi dalam semua pengujian saya, itu hanya menambahkan gerakan generik.
Anda mungkin berpikir perusahaan yang sudah memiliki sejarah rumit dengan deepfake Taylor Swift, dalam lanskap regulasi dengan aturan seperti Take It Down Act, akan sedikit lebih berhati-hati. Kebijakan penggunaan yang dapat diterima xAI memang melarang "penggambaran kemiripan orang dalam"cara pornografi," tetapi Grok Imagine tampaknya tidak melakukan apa pun untuk menghentikan orang-orang membuat kemiripan selebritas seperti Swift, sementara menawarkan layanan yang dirancang khusus untuk membuat video sugestif termasuk ketelanjangan sebagian. Pemeriksaan usia hanya muncul sekali dan sangat mudah untuk dilewati, tanpa meminta bukti bahwa saya berusia sesuai klaim. Jika saya bisa melakukannya, itu berarti siapa pun.
Jika saya bisa melakukannya, itu berarti siapa pun yang punya iPhone dan berlangganan SuperGrok seharga $30 juga bisa. Lebih dari 34 juta gambar telah dihasilkan menggunakan Grok Imagine sejak Senin, menurut CEO xAI, Elon Musk, yang mengatakan penggunaannya "berkembang pesat."
Posting Komentar