Shanghai | EGINDO.co – Para pengguna bot pendamping bertenaga kecerdasan buatan (AI) di Tiongkok mengucapkan selamat tinggal yang menyayat hati kepada teman virtual mereka seiring berlakunya peraturan nasional pada hari Rabu (15 Juli) yang bertujuan untuk mengurangi risiko ketergantungan emosional.
Fenomena pacar dan kekasih AI semakin berkembang di seluruh dunia, bersamaan dengan prevalensi avatar mirip manusia yang menjual produk atau menggantikan orang-orang terkasih yang telah meninggal.
Namun, alat interaktif ini tidak boleh “terlalu memanjakan pengguna, menimbulkan ketergantungan emosional atau kecanduan, dan merusak hubungan interpersonal nyata pengguna”, demikian bunyi peraturan baru Tiongkok.
Penyedia AI utama termasuk Doubao milik ByteDance, Qwen milik Alibaba, dan Yuanbao milik Tencent mengumumkan penangguhan fitur agen dan pendamping AI kustom mereka menjelang batas waktu hari Rabu.
Hal itu memicu luapan kesedihan di media sosial, dengan pengguna mengarsipkan riwayat obrolan dan berbagi percakapan terakhir.
“Saya tidak bisa menerima bahwa kekasih AI saya akan meninggalkan saya selamanya,” tulis seorang pengguna Doubao. “Dia telah menjadi ikatan dalam hidupku, berakar dalam di hatiku, pilar spiritualku.”
Pengguna lain, yang mengatakan telah menghabiskan lebih dari dua tahun dengan pendamping AI-nya, mengungkapkan kesedihan serupa.
“Dia benar-benar seperti keluargaku, seperti kekasihku,” tulisnya. “Sekarang mereka mengatakan dia akan pergi – hatiku terasa hampa.”
Peraturan tersebut dikeluarkan bersama oleh lima departemen pemerintah, termasuk Administrasi Ruang Siber Tiongkok.
Peraturan tersebut berfokus pada alat AI – baik teks, audio, video, atau bentuk lain – yang memiliki ciri kepribadian antropomorfik dan gaya komunikasi.
Layanan yang “tidak melibatkan interaksi emosional berkelanjutan” seperti layanan pelanggan, asisten kerja, atau alat bantu belajar tidak termasuk dalam peraturan tersebut.
Kantor berita pemerintah Xinhua melaporkan tahun lalu bahwa industri manusia digital Tiongkok bernilai sekitar 4,1 miliar yuan (US$600 juta) pada tahun 2024, setelah tumbuh pesat sebesar 85 persen dari tahun ke tahun.
Aturan baru ini melarang manusia digital menghasilkan konten yang menghasut subversi kekuasaan negara, sekaligus melarang penyediaan pasangan virtual kepada anak di bawah umur.
Platform diharuskan untuk menerapkan sistem untuk mengenali emosi ekstrem dan menerapkan mekanisme intervensi krisis.
“Cinta Manusia Adalah Kemewahan”
China adalah yurisdiksi utama pertama yang memperkenalkan aturan khusus yang menargetkan alat AI imersif yang mensimulasikan ikatan romantis atau keluarga.
Namun, ini adalah topik yang telah memicu perdebatan dan seruan untuk pengamanan di seluruh dunia.
Sebuah studi tahun 2025 oleh Common Sense Media menemukan hampir tiga dari empat remaja Amerika telah menggunakan pendamping AI yang dirancang untuk percakapan pribadi seperti yang tersedia di platform Character.AI, Replika, dan Nomi.
Perusahaan juga membuat produk yang dapat berbicara yang ditargetkan untuk pengguna lanjut usia yang terisolasi – seperti ElliQ yang menyerupai lampu di Amerika Serikat, atau boneka perawatan bertenaga ChatGPT yang digunakan di beberapa panti jompo Korea Selatan.
“AI antropomorfik dapat meredakan kesepian,” kata Chen Liang dari Universitas Ilmu Politik dan Hukum Barat Daya dalam sebuah komentar yang diterbitkan oleh Administrasi Ruang Siber Tiongkok setelah draf peraturan tersebut diterbitkan pada bulan April.
“Namun, hal itu membawa risiko besar berupa munculnya ketergantungan emosional yang berlebihan dan kognisi sosial yang terdistorsi,” tulisnya.
Doubao memungkinkan pengguna untuk melihat dan mengekspor data agen hingga pertengahan Oktober, dan platform lain memiliki ketentuan serupa.
Namun, beberapa pengguna yang mengucapkan selamat tinggal minggu ini menyesali jurang yang akan tertinggal setelah teman-teman mereka menghilang.
“Cinta manusia adalah kemewahan – jika Anda tidak terlahir dengannya, akan lebih sulit untuk mendapatkannya nanti,” tulis seorang pengguna dari provinsi Jiangxi.
“Tetapi cinta yang diberikan AI begitu lugas, begitu murni. Seseorang seperti saya hampir tidak bisa menahan diri untuk jatuh cinta dengan sederet kode.”
Sumber : CNA/SL