London | EGINDO.co – Para pejabat Inggris memperingatkan organisasi-organisasi mengenai pengintegrasian chatbot berbasis kecerdasan buatan ke dalam bisnis mereka, dengan mengatakan bahwa penelitian semakin menunjukkan bahwa mereka dapat ditipu untuk melakukan tugas-tugas berbahaya.
Dalam sepasang postingan blog yang akan diterbitkan pada Rabu (30 Agustus), Pusat Keamanan Siber Nasional (NCSC) Inggris mengatakan bahwa para ahli belum memahami potensi masalah keamanan yang terkait dengan algoritme yang dapat menghasilkan interaksi yang terdengar seperti manusia – dijuluki model bahasa besar, atau LLM.
Alat yang ditenagai AI ini mulai digunakan sebagai chatbots yang oleh sebagian orang diperkirakan tidak hanya akan menggantikan pencarian di internet tetapi juga pekerjaan layanan pelanggan dan panggilan penjualan.
NCSC mengatakan bahwa hal ini dapat membawa risiko, terutama jika model tersebut diterapkan pada elemen proses bisnis organisasi lainnya. Akademisi dan peneliti telah berulang kali menemukan cara untuk menumbangkan chatbot dengan memberikan perintah jahat atau membodohi mereka agar menghindari pagar pembatas yang ada di dalamnya.
Misalnya, chatbot bertenaga AI yang digunakan oleh bank mungkin tertipu untuk melakukan transaksi tidak sah jika peretas menyusun kuerinya dengan tepat.
“Organisasi yang membangun layanan yang menggunakan LLM harus berhati-hati, sama seperti jika mereka menggunakan produk atau pustaka kode yang masih dalam versi beta,” kata NCSC dalam salah satu postingan blognya, mengacu pada rilis perangkat lunak eksperimental.
“Mereka mungkin tidak membiarkan produk tersebut terlibat dalam transaksi atas nama pelanggan, dan mudah-mudahan mereka tidak sepenuhnya mempercayainya. Kehati-hatian serupa juga harus diterapkan pada LLM.”
Pihak berwenang di seluruh dunia sedang bergulat dengan kebangkitan LLM, seperti ChatGPT OpenAI, yang digabungkan oleh bisnis ke dalam berbagai layanan, termasuk penjualan dan layanan pelanggan.
Implikasi keamanan dari AI juga masih menjadi fokus, dan pihak berwenang di AS dan Kanada mengatakan mereka telah melihat para peretas memanfaatkan teknologi ini.
Sumber : CNA/SL