Perkembangan akal imitas alias AI membuat ancaman kejahatan siber memasuki babak baru. Teknologi AI tak lagi hanya digunakan untuk membuat wajah, suara, atau video palsu, tetapi mulai mampu membangun hubungan sintetis dengan manusia.
Wakil Menteri Komunikasi dan Digital (Komdigi) Nezar Patria mengatakan perkembangan AI telah mengubah cara kejahatan siber dilakukan. Kemampuan AI dalam melakukan profiling dan membangun hubungan dengan manusia dapat menciptakan konsekuensi yang sebelumnya sulit diprediksi.
“Perkembangan AI ini betul-betul memunculkan apa yang kita sebut unintended consequences, konsekuensi yang tidak kita inginkan,” kata Nezar dalam pernyataan tertulisnya, Rabu (19/6).
Menurutnya, AI kini tidak lagi hanya berfungsi sebagai instrumen teknologi. Teknologi tersebut telah digunakan dalam berbagai sektor, mulai dari ekonomi, kesehatan, pendidikan, pertambangan, pertanian hingga kehidupan sosial.
Perkembangan ini membuat risiko AI tidak hanya berkaitan dengan kemampuan teknologi, tetapi juga bagaimana manusia berinteraksi dan memberikan kepercayaan kepada sistem berbasis AI.
Nezar mencontohkan perkembangan embodied AI atau physical AI, seperti robot humanoid yang mampu berinteraksi secara langsung dengan manusia. Dengan dukungan large language model, robot dapat melakukan percakapan, mengenali lawan bicara, hingga melakukan profiling.
Menuurtnya, kemampuan tersebut pada tahap tertentu dapat membuat AI membangun apa yang disebut sebagai synthetic relations atau hubungan sintetis dengan manusia. “Orang merasa bahwa dia lebih bisa percaya sama mesin ketimbang dengan manusia,” ujarnya.
Ancaman tersebut juga terlihat dalam perkembangan penipuan berbasis AI. Nezar mengatakan teknologi seperti deepfake dan model AI canggih kini semakin mudah digunakan untuk melakukan kejahatan siber.
“AI tidak menciptakan ancaman ini dari ketiadaan, tetapi mempercepat perkembangan, kualitas, dan jangkauannya,” kata Nezar.
Di Indonesia, salah satu bentuknya terlihat melalui penipuan yang menggunakan suara sintetis untuk meniru orang terdekat maupun tokoh terkenal. Kemampuan AI membuat pelaku dapat menghasilkan konten yang semakin sulit dibedakan dari komunikasi asli.
Nezar menyebut gelombang penipuan berbasis AI tersebut telah menyebabkan kerugian mencapai Rp 9,1 triliun.
Ancaman ini tidak hanya terjadi di Indonesia. Perserikatan Bangsa-bangsa memperkirakan kerugian akibat penipuan daring di kawasan Asia-Pasifik dapat mencapai US$ 114 miliar atau Rp 2.025,9 triliun pada tahun ini.
Karena itu, Nezar menilai sistem keamanan perlu dirancang bersamaan dengan pembangunan teknologi dan platform digital. “Kita perlu bergeser ke desain atau proses bisnis yang mengutamakan keamanan. Ini yang kita sebut sebagai security by design,” katanya.
Pemerintah akan Benahi Tata Kelola Keamanan AI
Kementerian Komdigi mendorong tata kelola keamanan AI yang dapat menjaga ketahanan sistem tanpa menghambat inovasi teknologi. Pemerintah ingin keamanan, akuntabilitas, dan ketahanan bukan sekadar lapisan tambahan setelah sebuah teknologi digunakan masyarakat.
“Tujuan kita adalah membangun kerangka kerja tata kelola keamanan AI yang komprehensif dan kuat yang memungkinkan inovasi untuk terus maju sambil memastikan bahwa keamanan, akuntabilitas, dan ketahanan dibangun sejak awal,” ujar Nezar.
Selain memperkuat desain keamanan, pemerintah mendorong pembangunan infrastruktur anti-scam, pencegahan di tingkat operator, serta verifikasi pengguna dengan memanfaatkan AI.
Menurutnya, sistem deteksi penipuan yang diterapkan secara nasional harus dapat menjangkau seluruh masyarakat. Ini termasuk pengguna internet di wilayah pedesaan.
Pemerintah juga tengah menyiapkan sejumlah regulasi untuk memperkuat keamanan digital, termasuk peraturan pelaksana Undang-undang Pelindungan Data Pribadi serta Rancangan Undang-undang Keamanan dan Ketahanan Siber.
Kemkomdigi juga mendorong pertukaran data intelijen antara pemerintah dan mitra industri serta pengembangan sistem deteksi ancaman siber berbasis AI.
Menurut Nezar, tantangan AI ke depan tidak hanya terletak pada kemampuan mesin menghasilkan konten yang menyerupai manusia. Persoalan yang lebih kompleks muncul ketika manusia mulai memperlakukan mesin sebagai pihak yang dapat dipercaya.
AI dapat memproses data, memprediksi perilaku, menghasilkan respons, bahkan membangun pola interaksi yang terasa personal. Dalam kondisi tersebut, pengguna bisa saja tidak lagi menyadari bahwa hubungan yang mereka bangun sebenarnya terjadi dengan sistem buatan.
Karena itu, Nezar menilai perkembangan AI perlu diimbangi kemampuan manusia untuk berpikir kritis dan reflektif. Manusia harus mampu mempertanyakan nilai, tujuan, serta dampak dari keputusan yang melibatkan AI.
“Sebentar lagi lulusan filsafat akan dibayar mahal karena semua decision making yang dibuat oleh AI akan punya dimensi-dimensi etik yang membutuhkan pertimbangan-pertimbangan dari mereka yang belajar filsafat,” katanya.
Nezar mengatakan AI memang mampu menjelaskan berbagai pemikiran filsafat. Namun, kemampuan tersebut berbeda dengan proses manusia dalam melakukan refleksi filosofis secara kritis dan menyeluruh.
“AI bisa menjelaskan filsafat tapi belum bisa melakukan apa yang kita kenal sebagai berfilsafat,” ujarnya.