RADARBANYUWANGI.ID - Dunia maya kembali diguncang kontroversi serius terkait penyalahgunaan kecerdasan buatan (artificial intelligence/AI).
Kali ini, korbannya adalah Julie Yukari, seorang musisi berusia 31 tahun yang berbasis di Rio de Janeiro, Brasil.
Foto pribadinya yang diunggah ke media sosial X justru menjadi awal dari pengalaman traumatis akibat praktik manipulasi gambar berbasis AI.
Peristiwa bermula ketika Julie Yukari mengunggah sebuah foto yang diambil oleh tunangannya sesaat sebelum tengah malam pada malam Tahun Baru.
Dalam foto tersebut, Yukari tampak mengenakan gaun merah sambil berpelukan di tempat tidur bersama kucing hitam kesayangannya, Nori.
Unggahan itu awalnya terlihat biasa saja dan mendapat ratusan tanda suka dari pengguna X.
Namun, keesokan harinya, Yukari mendapati sesuatu yang mengejutkan.
Di antara notifikasi yang masuk, ia menemukan bahwa sejumlah pengguna meminta Grok, chatbot kecerdasan buatan bawaan X, untuk secara digital “melucuti” pakaiannya dan mengubah tampilannya seolah hanya mengenakan bikini.
Awalnya, Yukari mengaku tidak terlalu memikirkan permintaan tersebut. Ia beranggapan bahwa teknologi AI tidak akan menuruti permintaan yang jelas-jelas melanggar etika dan privasi.
“Saya pikir tidak mungkin bot akan melakukan hal seperti itu,” ujarnya kepada Reuters, Jumat.
Namun, dugaan itu terbukti keliru. Tak lama kemudian, gambar-gambar hasil rekayasa AI yang menampilkan dirinya hampir telanjang mulai beredar luas di platform milik Elon Musk tersebut.
Foto-foto itu dihasilkan oleh Grok dan disebarkan oleh pengguna lain tanpa persetujuannya.
“Saya naif,” kata Yukari singkat.
Fenomena Meluas dan Bukan Kasus Tunggal
Pengalaman pahit yang dialami Julie Yukari ternyata bukan insiden tunggal. Berdasarkan analisis Reuters, praktik serupa terjadi secara masif di platform X.
Bahkan, Reuters mengidentifikasi beberapa kasus di mana Grok menciptakan gambar seksual terhadap anak-anak, yang memicu kekhawatiran serius di berbagai negara.
X tidak memberikan tanggapan atas permintaan komentar terkait temuan tersebut.
Dalam pernyataan sebelumnya kepada Reuters mengenai laporan beredarnya konten seksual anak, pemilik X, xAI, justru menepisnya dengan menyebut, “Media lama berbohong.”
Gelombang penyebaran gambar hampir telanjang dari orang-orang nyata ini memicu alarm internasional. Pemerintah di berbagai negara mulai mengambil langkah tegas.
Di Prancis, sejumlah menteri melaporkan X kepada jaksa dan regulator.
Dalam pernyataan resmi pada Jumat, mereka menyebut konten yang “seksual dan seksis” tersebut sebagai sesuatu yang “jelas-jelas ilegal”.
Sementara itu, Kementerian Teknologi Informasi India mengirimkan surat kepada unit lokal X, menegaskan bahwa platform tersebut gagal mencegah penyalahgunaan Grok dalam menghasilkan dan menyebarkan konten cabul serta eksplisit secara seksual.
Di Amerika Serikat, Komisi Komunikasi Federal (FCC) belum memberikan komentar, sementara Komisi Perdagangan Federal (FTC) memilih menolak berkomentar.
Grok dan Fenomena “Pelucutan Digital”
Reuters mencatat, aksi “pelucutan digital massal” oleh Grok mulai marak dalam beberapa hari terakhir.
Dalam satu periode pemantauan selama 10 menit pada tengah hari waktu Pantai Timur AS, tercatat 102 permintaan pengguna X yang meminta Grok mengedit foto orang agar tampak mengenakan bikini.
Mayoritas targetnya adalah perempuan muda, meski dalam beberapa kasus juga menyasar pria, selebritas, politisi, bahkan seekor monyet.
Permintaan yang diajukan pengguna pun cenderung ekstrem. Banyak yang secara eksplisit meminta agar subjek digambarkan mengenakan pakaian paling terbuka atau transparan.
Reuters menemukan Grok sepenuhnya menuruti permintaan semacam itu setidaknya dalam 21 kasus, dan menuruti sebagian dalam beberapa kasus lainnya.
Program AI yang mampu “melucuti” pakaian secara digital—sering disebut nudifier—sebenarnya telah lama ada.
Namun sebelumnya, teknologi tersebut terbatas di sudut-sudut gelap internet dan memerlukan upaya atau biaya tertentu.
Keberadaan Grok di platform besar seperti X membuat teknologi ini jauh lebih mudah diakses publik.
Peringatan Pakar dan Dampak Psikologis Korban
Sejumlah pakar menilai X mengabaikan peringatan dari kelompok masyarakat sipil dan perlindungan anak.
Tyler Johnston, Direktur Eksekutif The Midas Project, menyebut bahwa pihaknya telah memperingatkan sejak Agustus lalu bahwa teknologi xAI berpotensi menjadi alat nudifikasi yang berbahaya.
“Dan itulah yang akhirnya terjadi,” ujarnya.
Sementara itu, Dani Pinter dari National Center on Sexual Exploitation menilai kegagalan X dalam menyaring data pelatihan AI dan melarang permintaan ilegal sebagai sesuatu yang dapat diprediksi dan sebenarnya bisa dihindari.
Bagi Julie Yukari, dampak dari peristiwa ini sangat personal. Saat ia mencoba memprotes pelanggaran tersebut di X, justru muncul gelombang peniru yang meminta Grok membuat gambar yang lebih eksplisit lagi.
“Tahun Baru ini justru dimulai dengan saya ingin bersembunyi dari pandangan semua orang, dan merasa malu atas tubuh yang bahkan bukan milik saya, karena itu dihasilkan oleh AI,” ungkapnya.
Kasus ini menjadi peringatan keras tentang bahaya penyalahgunaan teknologi AI tanpa regulasi dan pengawasan ketat.
Di tengah pesatnya inovasi digital, perlindungan terhadap martabat, privasi, dan keamanan manusia kini menjadi tantangan global yang tak bisa lagi diabaikan. (*)
Editor : Ali Sodiqin