Heboh Foto Bugil Taylor Swift, Ternyata Dibuat AI Milik Microsoft

Hadi Iswanto - Selasa, 30 Januari 2024 21:55 WIB
Heboh Foto Bugil Taylor Swift, Ternyata Dibuat AI Milik Microsoft
Taylor Swift
bulat.co.id - Layanan AI generatif Microsoft Designer ikut terseret dalam kontroversi foto bugil Taylor Swift yang viral di media sosial.Laporan 404Media mengindikasikan gambar tidak senonoh itu berasal dari komunitas pembuat gambar mesum dengan wajah selebriti di Telegram dan 4chan.

Komunitas itu menyarankan anggotanya untuk membuat gambar mesum menggunakan Microsoft Designer.

Designer sebenarnya memiliki aturan yang mencegah pengguna membuat gambar orang terkenal.

Tapi pengguna di channel Telegram dan 4chan menemukan jalan pintas dengan sedikit salah mengeja nama selebriti, dan mendeskripsikan gambar yang tidak menggunakan istilah seksual tapi menghasilkan gambar yang menjurus ke arah seksual.

404Media mengonfirmasi bahwa celah tersebut bisa digunakan untuk menciptakan gambar mesum.

Tapi Microsoft sudah menambal celah tersebut sejak akhir pekan lalu.

"Kami sedang menyelidiki laporan-laporan ini dan mengambil tindakan yang tepat untuk mengatasinya," kata juru bicara Microsoft kepada 404Media, seperti dikutip detikINET, Selasa (30/1/2024).

"Kode Etik kami melarang penggunaan alat kami untuk membuat konten intim dewasa atau non-konsensual, dan percobaan berulang kali untuk menciptakan konten yang melanggar kebijakan kami dapat mengakibatkan hilangnya akses ke layanan," sambungnya.

Microsoft menambahkan investigasi mereka yang masih berjalan tidak bisa memverifikasi bahwa gambar Swift yang viral di Twitter/X dibuat menggunakan Designer.

Namun mereka tetap memperkuat sistem filter prompt dan mengatasi penyalahgunaan layanannya.

Perubahan yang dilakukan Microsoft sepertinya berhasil. Sejumlah pengguna di channel Telegram dan 4chan mengatakan Designer tidak bisa lagi menciptakan wajah selebriti dengan akurat.

"Bahkan Chloe Moretz hanya menampilkan gadis pirang generik. Saya berpindah server dan akun beberapa kali dan sekarang hanya mendapatkan hal generik yang sama," kata seorang pengguna 4chan.

"Saya pikir itu sudah bermasalah. Ariana, Kylie Jenner, Lisa, Zendaya, dan lain-lain hanya menampilkan perempuan generik dengan penampilan/etnis yang sama," kata pengguna lainnya.

Penulis
: Hadi Iswanto
Tags
Berita Terkait
Komentar
Berita Terbaru