Bisnis.com, JAKARTA - Media sosial X dahulu twitter kini telah membuka blokir pencarian nama Taylor Swift di situs web tersebut pada Senin malam.
Dilansir dari Forbes, sebelumnya X memblokir sementara penelusuran selama akhir pekan setelah situs tersebut dibanjiri dengan beberapa gambar palsu eksplisit bintang pop yang dibuat oleh AI, sehingga menimbulkan pertanyaan. tentang keadaan moderasi konten di platform media sosial.
Beberapa lusin gambar Swift yang dibuat oleh AI, baik yang eksplisit secara seksual atau menggambarkan kekerasan terhadap bintang pop tersebut, dibagikan secara luas oleh banyak akun minggu lalu.
Beberapa di antaranya menerima lebih dari 45 juta tampilan dan ratusan bahkan ribuan likes. Gambar tersebut menyebabkan frasa “Taylor Swift AI” menjadi tren di platform tersebut pada minggu lalu.
Banyak sekali penggemar penyanyi tersebut, yang menyebut diri mereka “Swifties”, mencoba melawan penyebaran gambar-gambar ini dengan melaporkan banyak gambar tersebut secara massal dan membagikan lebih banyak gambar positif Swift dengan tagar #ProtectTaylorSwift.
X menanggapi kontroversi tersebut dengan menghapus gambar-gambar ini secara aktif dan “mengambil tindakan yang tepat terhadap akun yang bertanggung jawab untuk mempostingnya.” Sehari kemudian perusahaan tersebut langsung menghentikan pencarian nama penyanyi tersebut.
Sebuah laporan oleh 404 Media menelusuri kemungkinan asal gambar eksplisit tersebut ke grup Telegram, setidaknya salah satu di antaranya menggunakan Microsoft Designer, generator AI teks-ke-gambar yang ditargetkan untuk desainer grafis.
CEO raksasa teknologi tersebut mengatakan kepada NBC News bahwa gambar-gambar tersebut “mengkhawatirkan dan mengerikan,” dan mengatakan bahwa perusahaan tersebut berupaya untuk menempatkan pagar pembatas di sekitar teknologi AI generatif untuk mencegah penyalahgunaan.
Perusahaan kemudian mengatakan telah memperbaiki celah yang memungkinkan Designer digunakan untuk menghasilkan gambar tersebut.
