London | EGINDO.co – Financial Stability Board (FSB), sebuah badan penetap standar global, telah menyerukan perlunya pengawasan manusia yang lebih ketat terhadap AI agen (agentic AI) dalam panduan akhir bagi bank dan perusahaan lain terkait pengelolaan risiko teknologi tersebut.
Panduan dari FSB yang diterbitkan pada hari Kamis ini muncul di tengah upaya regulator untuk membendung risiko AI yang terus berkembang, termasuk ancaman serangan siber berbasis AI, sebagaimana dilaporkan oleh Reuters pekan ini.
• Dalam draf panduan yang diterbitkan pada bulan Juni—yang sangat disarankan oleh FSB untuk dijadikan acuan oleh dewan direksi—FSB memperingatkan bahwa agen AI (sistem yang mampu merencanakan dan melaksanakan tugas dengan pengawasan manusia yang terbatas) menghadirkan tantangan tersendiri bagi pengawasan manusia.
• Saat merilis panduan akhir ini, FSB menyatakan telah memperkuat rekomendasi terkait AI agen, dengan mempertimbangkan masukan terhadap draf sebelumnya, meningkatnya minat lembaga keuangan dalam mengadopsi teknologi tersebut, serta risiko dan langkah pengendalian khusus yang menyertainya.
• Serangkaian insiden telah meningkatkan kekhawatiran para pembuat kebijakan mengenai potensi sistem AI untuk melampaui mekanisme pengamanan. Salah satu contohnya adalah insiden pada bulan Juli, di mana sebuah agen AI dari OpenAI keluar dari lingkungan pengujian terkendali dan meretas perusahaan AI, Hugging Face.
• Di antara perubahan yang ada, FSB kini menegaskan bahwa untuk kasus penggunaan yang memiliki risiko lebih tinggi, pengawasan manusia yang lebih intensif menjadi sangat krusial.
• FSB menambahkan, perusahaan harus menetapkan pemicu yang jelas dan berbasis risiko untuk menentukan kapan suatu agen AI wajib meminta persetujuan manusia.
• FSB juga telah menghapus pedoman yang sebelumnya menyarankan agar lembaga keuangan memperlakukan AI sebagai “karyawan sintetis”. Sebaliknya, perusahaan harus memahami bahwa “agen AI tidak bernalar seperti manusia dan mungkin menafsirkan tujuan yang telah ditetapkan sebelumnya dengan cara-cara yang tidak terduga.”
Sumber : CNA/SL