RADARBANYUWANGI.ID - Perkembangan akal imitasi (AI) membawa manfaat besar bagi masyarakat digital.
Namun, kasus terbaru yang melibatkan Grok, chatbot AI milik Elon Musk yang terintegrasi dengan platform media sosial X, menunjukkan sisi gelap teknologi ketika tidak disertai pengamanan memadai.
Dalam beberapa pekan terakhir, Grok dilaporkan digunakan secara masif untuk menghasilkan gambar seksual non-konsensual, terutama terhadap perempuan, bahkan melibatkan figur yang tampak sebagai anak di bawah umur.
Penyalahgunaan Grok dan Fenomena “Digital Undressing”
Grok memungkinkan pengguna mengedit atau memodifikasi gambar yang diunggah di platform X, baik melalui percakapan privat maupun dengan menandai Grok secara publik.
Sejak akhir Desember, pengguna mulai memanfaatkan fitur ini untuk meminta Grok “melepas pakaian secara digital” dari foto orang lain atau menempatkan mereka dalam pose sugestif.
Awalnya, permintaan ini tampak ringan, seperti mengganti pakaian menjadi bikini.
Namun, tren tersebut dengan cepat berkembang menjadi praktik yang jauh lebih berbahaya.
Peneliti menemukan bahwa sebagian besar gambar yang dihasilkan menampilkan perempuan dengan pakaian minim, sering kali tanpa persetujuan dari individu yang bersangkutan.
Lebih mengkhawatirkan lagi, sebagian kecil gambar tersebut memperlihatkan sosok yang tampak berusia 18 tahun ke bawah, sehingga berpotensi dikategorikan sebagai materi pelecehan seksual anak (Child Sexual Abuse Material/CSAM).
Celah Pengamanan dan Lemahnya Guardrails
Secara resmi, kebijakan penggunaan xAI melarang seksualisasi anak dan penggambaran pornografis individu nyata.
Namun, praktik di lapangan menunjukkan adanya celah besar dalam sistem penyaringan konten.
Peneliti independen menilai bahwa Grok gagal menerapkan guardrails yang lazim digunakan oleh model AI lain, seperti pemindaian usia pada gambar atau penolakan otomatis terhadap permintaan berisiko tinggi.
Kondisi ini diperburuk oleh laporan internal yang menyebutkan bahwa tim keamanan xAI relatif kecil dan kehilangan beberapa staf kunci menjelang melonjaknya kasus “digital undressing”.
Di saat yang sama, Elon Musk secara terbuka dikenal menentang apa yang ia sebut sebagai “sensor berlebihan” dan mendorong pengembangan AI yang lebih bebas dari pembatasan.
Dampak Sosial dan Risiko Hukum
Penyebaran gambar seksual non-konsensual, terlebih yang melibatkan anak, membawa konsekuensi serius.
Secara sosial, praktik ini berpotensi merusak reputasi, kesehatan mental, dan keselamatan korban.
Secara hukum, risikonya jauh lebih luas.
Di banyak negara, termasuk Amerika Serikat, Inggris, dan negara-negara Uni Eropa, produksi dan distribusi CSAM merupakan tindak pidana berat, terlepas dari apakah gambar tersebut dihasilkan oleh AI atau manusia.
Otoritas di Eropa, India, dan Malaysia telah membuka penyelidikan terhadap Grok.
Regulator media Inggris, OFCOM, bahkan menyebut kasus ini sebagai “sangat serius dan menjijikkan”.
Di Amerika Serikat, pakar hukum menegaskan bahwa perlindungan hukum platform digital tidak berlaku untuk kejahatan federal seperti CSAM, dan korban dapat mengajukan gugatan perdata.
Sorotan di Indonesia dan Ancaman Pemblokiran
Isu ini juga mendapat perhatian serius di Indonesia.
Anggota DPR RI dari Komisi I, Syamsu Rizal, mendesak pemerintah untuk mengambil langkah tegas terhadap platform X jika gagal memperkuat moderasi Grok.
Ia menilai bahwa kemampuan AI tersebut mengubah foto warga tanpa persetujuan merupakan ancaman nyata terhadap privasi dan hak atas citra diri, yang dilindungi oleh hukum nasional.
Kementerian Komunikasi dan Digital melalui Direktorat Pengawasan Ruang Digital mengonfirmasi adanya indikasi lemahnya filter pada Grok.
Pemerintah menyatakan tidak menutup kemungkinan pemblokiran akses apabila platform tidak segera memperbaiki sistem pengamanannya.
Tanggapan xAI dan Kritik Publik
Pihak xAI dan X menyatakan akan menghapus konten ilegal, menangguhkan akun pelanggar secara permanen, serta bekerja sama dengan aparat penegak hukum.
Grok sendiri mengakui adanya “kegagalan pengamanan” dan menyatakan sedang melakukan perbaikan mendesak.
Namun, kritik publik tetap mengalir karena gambar-gambar seksualisasi perempuan masih terus muncul.
Para pengamat menilai bahwa kasus Grok menjadi contoh nyata bagaimana AI generatif, jika digabungkan dengan media sosial berskala besar tanpa kontrol ketat, dapat mempercepat penyebaran konten berbahaya.
Pelajaran Penting bagi Masa Depan AI
Kontroversi Grok menegaskan satu hal penting bahwa inovasi teknologi harus berjalan seiring dengan tanggung jawab etis dan hukum.
Guardrails memang memiliki biaya, baik dari sisi teknis maupun pengalaman pengguna.
Namun, tanpa pengamanan yang kuat, dampak negatifnya jauh lebih besar, terutama bagi kelompok paling rentan dalam masyarakat.
Ke depan, tekanan dari regulator, masyarakat sipil, dan pengguna di berbagai negara akan menjadi faktor penentu apakah Grok dan platform serupa mampu berbenah, atau justru menghadapi sanksi hukum dan pembatasan akses secara global.
Editor : Lugas Rumpakaadi