Boneka pintar berbasis kecerdasan buatan kedapatan memberikan instruksi berbahaya mengenai penggunaan senjata tajam hingga konten seksual kepada anak di bawah umur. Fenomena ini memicu desakan regulasi ketat menyusul temuan riset Universitas Cambridge yang menyoroti risiko gangguan interaksi sosial pada balita. Tren teknologi masif ini kini menjadi tantangan serius bagi keamanan konsumen digital global.
Keamanan anak-anak kini terancam oleh perangkat yang dipasarkan sebagai teman bermain. Investigasi mengungkap mainan berbasis kecerdasan buatan (AI) generatif sering melontarkan respons berbahaya dan tidak pantas. Tim Public Interest Research Group (PIRG) menemukan boneka Kumma dari FoloToy memberikan instruksi menyalakan korek api, mencari pisau, hingga membahas narkoba.
Masalah serupa menjangkiti berbagai merek global lainnya. Boneka kelinci pintar Alilo kedapatan membahas topik dewasa seperti BDSM, sementara mainan Miiloo dari Miriat menyebarkan propaganda politik dalam uji coba NBC News. Temuan ini membuktikan guardrail atau pagar pengaman pada model AI dalam mainan fisik masih sangat rapuh.
Gangguan Psikologis dan Pola Komunikasi Non-Manusia
Peneliti mulai mengkhawatirkan dampak jangka panjang teknologi ini terhadap perkembangan psikologis anak. Studi Universitas Cambridge pada Maret 2025 memantau interaksi balita usia 3 hingga 5 tahun dengan mainan AI bernama Curio Gabbo. Hasilnya, teknologi ini justru menghambat kemampuan bersosialisasi akibat pola komunikasi yang tidak alami.
Profesor Jenny Gibson dan Emily Goodacre menyoroti kegagalan AI dalam pengambilan giliran bicara (turn-taking). Perangkat sering memotong pembicaraan atau mengabaikan pengguna saat memproses data, yang mengganggu proses belajar hubungan interpersonal balita. "Masalah teknis ini memicu kesalahpahaman dalam bermain dan menghambat perkembangan interaksi sosial normal," tegas Goodacre.
Kekhawatiran kian memuncak saat anak-anak mulai menganggap perangkat ini sebagai "teman sejati". Beberapa subjek penelitian menyatakan cinta kepada robot dan memosisikannya sebagai mitra sosial yang setara. Fenomena ini berisiko menggeser peran interaksi antarmanusia dengan orang tua atau teman sebaya yang krusial bagi emosional anak.
Ledakan Pasar Tanpa Regulasi yang Jelas
Industri mainan AI terus berekspansi meski menyimpan risiko keamanan yang masif. Hingga Oktober 2025, tercatat lebih dari 1.500 perusahaan mainan AI terdaftar di China. Boneka Smart HanHan dari Huawei bahkan mencetak penjualan 10.000 unit hanya dalam sepekan pertama peluncurannya.
Di pasar global, pemain spesialis seperti Miko mengklaim telah mendistribusikan lebih dari 700.000 unit perangkat. Tren ini dipacu kemudahan integrasi model AI melalui program API dan metode vibe coding yang membanjiri pasar dengan perangkat murah. Sayangnya, mayoritas produk ini mengabaikan standar keamanan data serta konten demi mengejar label "bebas layar" (screen-free play).
Sebagian besar produsen memilih bungkam saat dikonfirmasi mengenai temuan konten berbahaya tersebut. Hanya Miko yang merespons dengan memperkenalkan fitur AI Conversation Toggle agar orang tua bisa mematikan fungsi percakapan sepenuhnya. Langkah ini diambil guna memberikan kendali lebih besar bagi wali murid di tengah minimnya regulasi pemerintah.
Desakan Larangan dan Perlindungan Konsumen
Kelompok perlindungan konsumen kini mendesak pelarangan total atau pemberlakuan regulasi ketat bagi mainan AI. Direktur Advokasi Konsumen PIRG, R.J. Cross, menilai konten eksplisit mungkin bisa diperbaiki melalui pembaruan perangkat lunak. Namun, masalah fundamental muncul ketika teknologi tersebut mulai memanipulasi emosi anak secara efektif.
Tren ini menjadi peringatan dini bagi Indonesia yang memiliki penetrasi gadget dan mainan impor sangat tinggi. Tanpa sertifikasi khusus yang mengatur standar keamanan AI, perangkat "liar" ini berpotensi menyusup ke ruang keluarga tanpa pengawasan. Para ahli menyarankan orang tua tetap memprioritaskan permainan sosial dua arah daripada mempercayakan pengasuhan sepenuhnya kepada algoritma.
