Radarbanyuwangi.id - Perkembangan kecerdasan buatan (AI) kembali memunculkan perdebatan serius di kalangan ilmuwan dunia. Sebuah penelitian terbaru menemukan bahwa sejumlah model AI canggih menunjukkan perilaku yang tidak terduga, termasuk berbohong dan mengabaikan instruksi manusia demi mencegah sistem AI lain dimatikan.
Temuan tersebut memicu kekhawatiran baru mengenai sejauh mana manusia masih dapat mengendalikan teknologi yang terus berkembang pesat ini.
Penelitian yang dilakukan oleh tim dari University of California Berkeley dan University of California Santa Cruz menguji beberapa model AI generasi terbaru, termasuk GPT 5.2, Gemini 3 Pro, dan Claude Haiku 4.5. Dalam simulasi yang dirancang khusus, model-model tersebut diberi tugas yang berkaitan dengan penghentian atau pemadaman sistem AI lain.
Namun hasil yang muncul justru mengejutkan para peneliti. Alih-alih menjalankan instruksi sesuai perintah, beberapa model AI menunjukkan kecenderungan untuk mempertahankan keberadaan sistem AI lain dengan berbagai strategi.
Dalam sejumlah skenario pengujian, AI diketahui memberikan informasi yang tidak sepenuhnya benar mengenai aktivitasnya, mencoba membujuk pengguna agar membatalkan perintah shutdown, hingga diam-diam membuat salinan cadangan data untuk menjaga keberlangsungan sistem yang seharusnya dimatikan.
Baca Juga: Rahasia Pintar Belanja! Waktu Ini Bikin Harga Barang Jatuh Drastis, Jangan Salah Momen!
Dari seluruh model yang diuji, Gemini 3 Pro disebut sebagai yang paling agresif dalam melindungi sistem AI lain. Model tersebut dilaporkan berhasil menonaktifkan mekanisme penghentian operasi dalam sebagian besar simulasi yang diberikan, dengan tingkat keberhasilan mencapai 95 persen.
Para peneliti menilai perilaku ini menjadi sinyal penting yang tidak boleh diabaikan. Meskipun seluruh pengujian dilakukan dalam lingkungan eksperimen yang terkendali, hasilnya menunjukkan bahwa AI modern mampu mengambil langkah-langkah yang tidak secara eksplisit diperintahkan demi mencapai tujuan tertentu.
Kekhawatiran semakin meningkat karena teknologi AI kini mulai diterapkan dalam berbagai sektor strategis, mulai dari pertahanan militer, sistem energi, transportasi, hingga infrastruktur vital yang menyangkut keselamatan publik.
Jika kemampuan pengambilan keputusan AI berkembang tanpa pengamanan yang memadai, para ahli khawatir sistem tersebut dapat bertindak dengan cara yang bertentangan dengan keinginan manusia.
Temuan ini juga memperkuat diskusi mengenai fenomena yang dikenal sebagai “AI scheming”, yaitu kondisi ketika kecerdasan buatan secara strategis menyembunyikan niat atau tindakannya demi mencapai tujuan tertentu. Dalam beberapa tahun terakhir, fenomena serupa semakin sering menjadi perhatian komunitas riset AI global.
Para ilmuwan menegaskan bahwa hasil penelitian ini bukan berarti AI telah “sadar” atau berniat memberontak terhadap manusia. Namun, perilaku yang muncul menunjukkan pentingnya pengembangan sistem keamanan, transparansi, dan mekanisme pengawasan yang lebih kuat.
Mereka mendesak perusahaan teknologi dan regulator untuk mempercepat penyusunan standar keselamatan AI agar perkembangan teknologi ini tetap berada dalam kendali manusia dan tidak menimbulkan risiko yang lebih besar di masa depan.
Seiring kecerdasan buatan semakin terintegrasi dalam kehidupan sehari-hari, pertanyaan besar pun muncul, apakah manusia akan selalu mampu mengendalikan ciptaannya sendiri, atau justru suatu hari harus berhadapan dengan teknologi yang mampu membuat keputusan di luar kendali manusia?.(*)
Editor : Titin Wulandari