RADAR BANYUWANGI - Kecerdasan buatan (AI) tidak lagi sekadar menjawab pertanyaan. Teknologi AI agent atau agen AI mulai mampu menentukan langkah, mengakses aplikasi, hingga menjalankan tindakan untuk menyelesaikan tugas yang diberikan pengguna.
Kemampuan itu menjanjikan pekerjaan yang lebih cepat. Namun, semakin besar kewenangan yang diberikan kepada AI, semakin rumit pula persoalan ketika tindakannya keliru.
Risiko tersebut kembali menjadi perhatian setelah Anthropic, perusahaan pengembang Claude, memperingatkan potensi persoalan hukum dari AI agent dalam prospektus penawaran saham perdananya.
Dalam dokumen yang dilihat Reuters pada 29 September 2026, Anthropic menyebut kemampuan AI yang semakin otonom dapat memperbesar dampak kesalahan, perilaku yang menyimpang dari tujuan, maupun eksploitasi keamanan.
“Kemampuan otonom ini dapat meningkatkan potensi bahaya karena kesalahan, ketidaksesuaian, atau eksploitasi keamanan dapat menimbulkan konsekuensi di dunia nyata,” kata Anthropic.
Konsekuensinya bukan sekadar jawaban yang keliru. AI yang mendapat akses ke sistem lain dapat melakukan tindakan yang sulit dibatalkan. Misalnya, menghapus data atau menjalankan transaksi keuangan.
Anthropic juga mengakui masih ada ketidakpastian mengenai bagaimana hukum akan memperlakukan tindakan AI agent dan kapan tindakan sebuah agen dapat mengikat pengguna yang mengoperasikannya.
Bukan Lagi Sekadar Chatbot
National Institute of Standards and Technology (NIST) Amerika Serikat menyebut AI agent sebagai generasi sistem AI yang mampu melakukan tindakan secara otonom untuk mewakili penggunanya.
Kemampuannya sudah jauh melampaui pembuatan teks.
“AI agent kini dapat bekerja secara otonom selama berjam-jam, menulis dan memperbaiki kode, mengelola email dan kalender, serta berbelanja,” tulis NIST pada Februari 2026.
Di situlah perbedaannya dengan chatbot biasa.
Chatbot umumnya menghasilkan jawaban yang masih dapat diperiksa sebelum digunakan. Sebaliknya, AI agent bisa diberi akses ke aplikasi, data, dan perangkat lain untuk menyelesaikan pekerjaan.
Kesalahan pun tidak selalu berhenti di layar.
Jika AI mendapat akses ke email, basis data, sistem pembayaran, atau lingkungan pengembangan perangkat lunak, keputusan yang keliru dapat langsung berubah menjadi tindakan.
NIST menilai kondisi tersebut memunculkan tantangan keamanan baru. Dalam laporan yang diterbitkan pada Mei 2026, lembaga itu menyebut terdapat kesepakatan luas bahwa AI agent menghadirkan ancaman yang perlu ditangani dengan pendekatan keamanan khusus.
Salah satunya ialah agent hijacking. Serangan ini dapat terjadi ketika pihak lain menyisipkan instruksi berbahaya ke dalam email, situs web, atau sumber informasi yang dibaca AI.
Agen kemudian dapat mengikuti instruksi tersebut tanpa menyadari bahwa perintah itu berasal dari penyerang.
Pengamanan Harus Terus Diperbarui
Risiko AI juga berkaitan dengan keterbatasan guardrail atau pagar pengaman yang digunakan untuk membatasi perilaku sistem.
Apostol Vassilev, ilmuwan senior NIST yang meneliti adversarial machine learning, menyebut keamanan harus menjadi bagian utama dalam pengembangan AI.
“Salah satu pilar AI yang bertanggung jawab adalah bahwa teknologi itu harus aman,” kata Vassilev dalam keterangan NIST pada 9 Juni 2026.
Penelitian NIST menunjukkan sekumpulan aturan pengaman yang tetap tidak dapat menjamin perlindungan terhadap seluruh bentuk serangan berbasis instruksi.
Artinya, pengamanan AI tidak bisa dipasang sekali lalu dianggap selesai.
NIST mendorong pengujian terus-menerus melalui red team, pembaruan guardrail ketika celah baru ditemukan, serta mekanisme untuk membatasi dampak dan memulihkan sistem ketika insiden terjadi.
Kebutuhan itu menjadi semakin penting ketika AI memperoleh akses yang lebih luas.
Semakin banyak kewenangan yang diberikan, semakin besar pula dampak ketika AI salah memahami instruksi, dimanipulasi, atau mengambil langkah yang tidak sesuai dengan maksud pengguna.
Siapa yang Bertanggung Jawab?
Persoalan berikutnya muncul ketika kesalahan benar-benar terjadi. Siapa yang harus bertanggung jawab?
Ketua Federal Trade Commission (FTC) AS Andrew Ferguson menolak anggapan bahwa AI agent harus diperlakukan seperti aktor independen.
“Saya akan terus menolak antropomorfisasi terhadap alat-alat ini,” kata Ferguson dalam Reuters Momentum AI di Austin, Texas, pada 25 September 2026.
Menurut dia, jika sebuah alat melakukan sesuatu karena diperintahkan manusia, perhatian tidak seharusnya dialihkan kepada alat tersebut seolah-olah memiliki kehendak sendiri.
Namun, persoalannya menjadi lebih rumit jika AI menghasilkan tindakan yang tidak diperkirakan penggunanya. Dalam kondisi itu, tanggung jawab dapat menjadi perdebatan antara pengguna dan pembuat teknologi.
Artinya, AI mungkin semakin mandiri secara teknis. Namun, otonomi tersebut belum otomatis menjadikannya pihak yang dapat dimintai pertanggungjawaban seperti manusia atau perusahaan.
Pelajaran dari Kasus New Mexico
Risiko penggunaan AI sudah terlihat bahkan sebelum teknologi itu menjalankan tindakan secara mandiri.
Pada September 2026, Mahkamah Agung New Mexico menjatuhkan sanksi kepada pengacara Stephen D. Aarons setelah dokumen banding yang disiapkan dengan bantuan ChatGPT memuat informasi palsu.
Pengadilan menyatakan dokumen itu “memuat kesaksian palsu dari saksi yang sepenuhnya dibuat-buat”.
Aarons mengakui tidak memeriksa seluruh klaim faktual dan dasar hukum sebelum dokumen tersebut diajukan.
Mahkamah kemudian menyatakan Aarons melakukan penghinaan langsung terhadap pengadilan, merujuk kasus tersebut ke badan disiplin pengacara, mencoret dokumen yang diajukan, serta memerintahkannya membayar USD 5.000.
“Ini menjadi pelajaran bagi semua profesional yang mengandalkan teknologi yang kuat tetapi terkadang tidak stabil ini,” kata Aarons kepada Reuters.
Kasus tersebut bukan contoh AI agent yang bertindak secara mandiri. Namun, prinsipnya tetap relevan: menyerahkan pekerjaan kepada AI tidak menghapus tanggung jawab manusia untuk memeriksa hasilnya.
Persoalannya akan semakin besar ketika AI tidak hanya menghasilkan jawaban, tetapi juga diberi izin mengirim email, mengubah data, menjalankan kode, atau melakukan transaksi.
Karena itu, batas kewenangan menjadi penting. Tidak semua tindakan semestinya dapat dilakukan AI tanpa persetujuan manusia.
Semakin besar dampak sebuah tindakan, semakin penting pula mekanisme pengawasan, pencatatan aktivitas, dan persetujuan sebelum tindakan dijalankan.
AI boleh semakin mandiri. Namun, manusia tetap menentukan tujuan, memberikan akses, dan menetapkan batas kewenangannya.
Ketika AI mulai bertindak sendiri, pertanyaan terpenting bukan hanya apa yang bisa dilakukan teknologi tersebut, melainkan siapa yang mengawasi dan siapa yang bertanggung jawab ketika sesuatu berjalan salah.
Editor : Lugas Rumpakaadi