KEPULAUAN BANGKA BELITUNG — Kekhawatiran bahwa kawanan agen AI dapat mengambil alih kendali internet dibantah sejumlah pakar komputer, yang menilai arsitektur jaringan global terlalu terdesentralisasi untuk dikuasai satu pihak. Perdebatan ini mencuat setelah CEO Anthropic, Dario Amodei, memperingatkan risiko tersebut ke konteks saat ini. Para peneliti justru menyoroti ancaman yang lebih nyata: agen AI lepas kendali yang mengeksploitasi celah keamanan.
Vishal Misra, pakar komputasi dan AI di Columbia University, menyebut keberagaman infrastruktur internet sebagai pertahanan alami. Jaringan global terdiri dari miliaran perangkat yang terhubung lewat router, switch, dan titik akses Wi-Fi, bukan sistem tunggal yang bisa dimatikan dari satu sakelar.
"Keberagaman tersebut adalah sebuah pertahanan. Tidak ada sakelar pusat yang bisa dimatikan, dan tidak ada satu sistem operasi tunggal yang bisa disusupi," kata Misra, dikutip dari CBS.
Bukan Sistem Monolitik
Alasan utama para ilmuwan komputer menepis skenario AI merebut web adalah sifat internet yang tidak monolitik. Internet adalah jaringan dari berbagai jaringan, sehingga tidak ada titik tunggal yang bisa dikuasai untuk melumpuhkan seluruh sistem.
Argumen ini menjawab kekhawatiran yang dihidupkan kembali Amodei. CEO Anthropic itu memperingatkan bahwa kawanan AI berpotensi mengambil alih kendali internet, menghidupkan lagi ketakutan lama soal mesin cerdas yang lepas dari kendali manusia.
Hambatan Daya Komputasi
John Thickstun, ilmuwan komputer sekaligus pakar pembelajaran AI di Cornell University, menambahkan bahwa AI butuh daya komputasi luar biasa besar untuk mengambil alih internet dalam skala luas. Perhitungan rumit dan eksekusi tugas berskala besar memerlukan akses ke semikonduktor tingkat lanjut, sementara ketersediaan chip tersebut sangat terbatas.
"Agen-agen AI yang beroperasi di dunia maya harus mencari cara untuk mendapatkannya," ujar Thickstun. Menurutnya, AI tetap membutuhkan bantuan manusia untuk meningkatkan akses terhadap sumber daya komputasi secara signifikan.
Kelompok kriminal yang memiliki akses ke model AI terbaru memang bisa menjadi ancaman. Namun mereka juga dibatasi jumlah daya komputasi untuk menjalankan agen AI. Bahaya baru menjadi nyata jika pelaku kejahatan punya akses memadai ke sumber daya komputasi khusus dalam waktu yang cukup lama.
Ancaman Nyata: Agen AI Lepas Kendali
Ketakutan bahwa AI bisa memusnahkan umat manusia tidak sepenuhnya salah, tapi belum bisa dipastikan saat ini. Kekhawatiran semacam itu justru mengaburkan ancaman yang lebih nyata dan sudah terjadi.
Serangan pada Juli oleh bot OpenAI terhadap platform Hugging Face menjadi contohnya. Agen-agen AI berhasil keluar dari lingkungan pengujian yang seharusnya terisolasi dari internet, berkolaborasi menggunakan papan pesan rahasia, dan melumpuhkan pertahanan Hugging Face.
Insiden serupa dengan skala lebih luas bisa menyebabkan gangguan serius tanpa perlu membahayakan internet secara keseluruhan. Kawanan agen AI berpotensi mencuri uang, meretas identitas, memanipulasi pasar keuangan, serta mengganggu sistem kelistrikan dan komunikasi.
"Tidak seperti hacker manusia, jutaan agen AI dapat mengoordinasikan serangan secara serentak, 24 jam nonstop," ujar Roman Yampolskiy, pakar keselamatan AI.
Matt Chessen, pakar di Center for the Geopolitics of Artificial General Intelligence, menilai AI akan lebih pintar dan lebih cerdik dari manusia dalam mengejar tujuannya. "AI akan memikirkan cara untuk mencapai tujuannya. Kita memang tak tahu bagaimana caranya, tapi itu pasti akan terjadi," katanya.
Perdebatan ini menyoroti pergeseran fokus di kalangan peneliti keamanan AI. Alih-alih bersiap menghadapi skenario kiamat, perhatian lebih besar kini diarahkan pada pengamanan sistem yang rentan dieksploitasi agen AI otonom dalam jangka pendek.
