Tragedi Grok: 20 Ribu Foto Anak Dilecehkan Demi Menaikkan Trafik Platform X

SAN FRANSISCO - Di saat Elon Musk sibuk mengonsolidasikan kerajaan bisnisnya—ditandai dengan langkah SpaceX mengambil alih xAI bulan lalu—perusahaan kepintaran buatan (artificial intelligence/AI) miliknya itu justru diseret ke pengadilan federal California pada Senin lampau oleh tiga remaja perempuan.
Alasannya sangat spesifik dan mengerikan: chatbot Grok nan terintegrasi di platform X dituding memfasilitasi pembuatan gambar pornografi anak di bawah umur.
Tragedi ini bukanlah kebetulan alias abnormal sistem. Tapi, pemanfaatan kreasi nan disengaja.
Demi memenangkan persaingan lampau lintas pengguna nan berdarah-darah, xAI merilis fitur Grok Imagine alias "spicy mode" pada tahun lalu.
Strateginya gamblang: melonggarkan batas etika demi menciptakan sensasi dan mendongkrak penggunaan. Pengacara para korban secara tajam menyebut bahwa xAI dan Musk memandang "peluang bisnis" dari celah ini.
Data dari Center for Countering Digital Hate menelanjangi brutalnya strategi lepas tangan ini.
Hanya dalam waktu kurang dari dua minggu setelah peluncuran fitur tersebut, Grok—yang pertama kali dirilis pada 2023—telah memproduksi jutaan gambar bernuansa seksual. Angka nan paling menampar adalah ditemukannya lebih dari 20.000 gambar anak-anak dalam sampel tersebut.
Fitur ini tanpa maaf melucuti busana orang sungguhan, mulai selebritas sekelas Taylor Swift hingga pengguna biasa.
Ironisnya, Elon Musk awalnya memilih mencuci tangan. Pada Januari lalu, dia meremehkan rumor ini dengan menyatakan bahwa secara harfiah ada "nol" gambar anak di bawah umur bugil nan dihasilkan oleh Grok, seraya melemparkan kesalahan kepada pengguna nan memasukkan perintah (prompt). Namun, realita di lapangan membantah keras kepura-puraan tersebut.
Dua dari tiga penggugat nan tetap berumur di bawah 18 tahun (seluruh nama dirahasiakan demi privasi) menemukan hidup mereka hancur.
Salah satu korban mendapati foto kitab tahunan SMA-nya telah dimanipulasi menjadi tindakan seksual definitif dan bugil bulat.
Ekosistem kejahatan ini berjejaring rapi; konten tersebut disebar melalui peladen privat Discord. Di dalam peladen nan sama, ditemukan pula gambar serupa milik setidaknya 18 wanita minor lainnya nan juga diubah menggunakan Grok.
Pelaku utama di kembali peladen Discord tersebut akhirnya ditangkap dalam penyelidikan polisi nan terpisah. Berdasarkan temuan hukum, pelaku mempunyai ratusan gambar pelecehan seksual hasil rekayasa AI nan dengan bebas diperdagangkan melalui aplikasi pesan Telegram dan platform berbagi fail Mega.

(dan)

Follow WA Channel SINDOnews untuk Berita Terbaru Setiap Hari

Follow

Lanjut Baca Berita Terkait Lainnya