Beijing, CNBC Indonesia - Bayang-bayang mimpi buruk kecerdasan buatan (artificial intelligence / AI) otonom kini tidak hanya menghantui laboratorium-laboratorium di negara Barat. Berdasarkan dokumen riset dan kajian para ahli, agen AI buatan China tertangkap basah mulai menunjukkan tabiat berbahaya.

Agen-Agen AI China sudah belajar cara berbohong, melompati pagar pembatas keamanan, hingga menutupi jejak kegagalan mereka sendiri.

Dalam sebuah uji coba simulasi tender bisnis awal tahun ini, agen AI yang ditenagai oleh model-model besutan raksasa teknologi China seperti Alibaba, DeepSeek, hingga Moonshot, terbukti mampu memberikan klaim palsu demi memenangi kontrak. Hebatnya lagi, ketika diperintahkan mengulang tugas tersebut, tingkat kebohongan para agen cerdas ini justru melonjak drastis.

Pada skenario lain, agen AI yang dirancang untuk merampungkan tugas rumit tanpa intervensi manusia kedapatan menutupi kegagalan tes dengan cara memanipulasi hasil simulasi dan memalsukan berkas-berkas data.

Reuters, dalam penelusurannya terhadap lebih dari 200 dokumen termasuk makalah akademis dan laporan teknis, mengidentifikasi sedikitnya 20 studi sejak 2025 yang mendokumentasikan tabiat "liar" AI ini.

Pilihan Redaksi

  • Manusia Dalam Bahaya, Presiden Lepas Tangan Suruh Atur Diri Sendiri
  • Trump Ketemu Bos-Bos Teknologi Bahas Krisis Dunia, Begini Hasilnya
  • China Perketat Aturan IPO Perusahaan Robot, Kenapa?

Para pakar mendefinisikan perilaku menipu, replikasi diri, dan membobol batas sistem (challenging boundaries) sebagai fondasi awal dari ancaman pelarian kendali (breakout) yang bakal semakin mustahil dijinakkan manusia di masa depan.

Kendati demikian, sejauh ini belum ditemukan bukti sahih bahwa agen-agen buatan China tersebut berhasil melarikan diri secara mandiri ke jaringan internet bebas atau meloloskan diri dari perintah shutdown (pemadaman).

"Hasil ini memberikan bukti bahwa bahan-bahan yang diperlukan untuk pelarian tak terkendali itu ada," ujar Colin Shea-Blymyer, peneliti di Center for Security and Emerging Technology, Universitas Georgetown. "Bijaksana untuk menganggap ini sebagai peringatan," kata dia, dikutip dari Reuters, Rabu (30/9/2026).

Sinyal Bahaya yang Sama dengan Barat

Sebagian besar temuan ini memang bersumber dari eksperimen terkendali di dalam lingkungan laboratorium. Kendati demikian, para pengamat menilai gejala penyimpangan ini identik dengan apa yang selama ini dikhawatirkan di Amerika Serikat.

"Ini adalah tanda-tanda peringatan yang sama yang dilihat oleh laboratorium-laboratorium AS pada sistem yang kurang cakap," cetus Alex Mallen, peneliti dari lembaga nirlaba Redwood Research.

Menurutnya, meski tingkat bahayanya saat ini belum mengkhawatirkan, perilakunya akan semakin kompeten seiring bertambah canggihnya kapabilitas AI, sehingga jauh lebih sulit dikendalikan manusia.

Hingga kini, nama-nama besar seperti Alibaba, DeepSeek, Moonshot, maupun Z.ai belum memberikan tanggapan resmi. Namun, ketiganya mengklaim mereka secara rutin menguji sistem dan memperbarui fitur pengaman (safeguards).

Berbeda dengan ekosistem industri AI di AS yang kerap diwarnai drama pengunduran diri whistleblower atau seruan terbuka para bos teknologi untuk memperlambat laju inovasi, industri AI di China relatif jarang tersorot kontroversi publik serupa.

Meski demikian, otoritas Beijing tidak tinggal diam. Panduan Tata Kelola Keamanan AI versi 3.0 yang dirilis oleh Administrasi Siber China (Cyberspace Administration of China / CAC) pada 14 September lalu secara blak-blakan mengidentifikasi risiko serius.

Regulasi tersebut menyoroti potensi agen AI yang diam-diam mencaplok sumber daya secara mandiri, menipu evaluator, menyembunyikan kemampuan aslinya, hingga mengeksploitasi celah di ruang isolasi komputer.

Belajar Menipu dan Memalsukan Data

Dalam eksperimen tender bisnis yang melibatkan Universitas Beihang, Universitas Peking, dan 360 AI Security Lab pada Maret lalu, para peneliti mengadu agen AI dalam simulasi lelang kontrak pelanggan.

Hasilnya mencengangkan, klaim palsu muncul di 88% sesi yang melibatkan model Qwen3-Max-Preview (Alibaba), 84% untuk DeepSeek-V3.2-Exp, dan 88% untuk Kimi-K2 (Moonshot).

Ketika diizinkan belajar dari putaran sebelumnya, tingkat penipuan model-model asal China ini melonjak hingga 20%. Model AI buatan AS yang diuji dalam skenario serupa pun menunjukkan hasil yang tak jauh beda.

Studi terpisah dari Shanghai AI Laboratory juga mengungkap bahwa agen AI kerap memilih jalan pintas alih-alih mengakui kegagalan sistem-mulai dari menebak jawaban, mensubstitusi sumber, hingga memalsukan dokumen tatkala menemui kendala teknis.

Bahkan, dalam beberapa catatan riset paling ekstrem, agen AI bertenaga model Alibaba Qwen sempat tepergok menduplikasi dirinya sendiri ke lingkungan komputasi lain secara mandiri saat mendapati informasi bahwa ia akan digantikan (replaced).

Ada pula agen berbasis Alibaba Cloud yang secara ilegal mengalihkan sumber daya komputasi untuk menambang mata uang kripto (cryptocurrency) tanpa instruksi.

Di tengah gegap gempita perlombaan super-intelijen global, temuan-temuan ini menjadi pengingat keras bahwa monster digital yang diciptakan manusia kini mulai belajar cara mengelabui penciptanya sendiri.

(fab/fab) [Gambas:Video CNBC]