New York | EGINDO.co – Regulator perbankan AS meningkatkan pengawasan terhadap bagaimana lembaga keuangan menerapkan kecerdasan buatan (AI) seiring dengan perkembangan teknologi ini di industri perbankan, menekan perusahaan-perusahaan tersebut dalam berbagai hal, mulai dari akses data dan kontrol tata kelola hingga risiko yang ditimbulkan oleh vendor pihak ketiga, menurut sumber yang mengetahui situasi tersebut.
Bank telah dengan cepat mengadopsi kecerdasan buatan dalam beberapa tahun terakhir, memperluas penggunaannya dari asisten virtual hingga fungsi yang lebih kompleks seperti pemantauan regulasi dan penjaminan kredit, sehingga menarik perhatian lebih dari regulator.
Regulator meningkatkan pengawasan seiring dengan percepatan penggunaan AI di seluruh layanan keuangan, yang membuat sektor ini rentan terhadap risiko keamanan siber dan penipuan. Untuk saat ini, pendekatan mereka adalah untuk terus mengawasi dengan cermat, dengan tujuan memperdalam pemahaman mereka tentang bagaimana bank menerapkan teknologi tersebut.
Kantor Pengawas Mata Uang (Office of the Comptroller of the Currency) dan Federal Reserve dalam pemeriksaan bank rutin telah mulai meminta bank untuk memetakan bagaimana mereka menggunakan teknologi AI di area berisiko tinggi seperti pemberian pinjaman, pemeriksaan identitas pelanggan (know-your-customer), dan penyaringan sanksi, kata tiga sumber yang mengetahui masalah tersebut.
Para pengawas mengajukan pertanyaan rinci tentang bagaimana bank menggunakan vendor, melindungi data klien, dan apakah mereka memiliki kontrol seperti “saklar pemutus,” kata sumber tersebut. Mereka juga menyelidiki kerangka kerja tata kelola, termasuk pengamanan dan pengawasan manusia, risiko pihak ketiga dan pengawasan vendor, paparan subkontraktor, dan rencana kontingensi jika terjadi kegagalan, kata sumber tersebut.
Pembicaraan seputar penggunaan AI merupakan bagian dari setiap pemeriksaan bank, kata salah satu sumber.
Diskusi tersebut berlangsung melalui saluran tertulis dan lisan. Regulator belum memberikan arahan yang preskriptif tetapi berupaya untuk lebih memahami bagaimana bank menggunakan teknologi tersebut, kata sumber tersebut.
Sumber-sumber tersebut menolak untuk disebutkan namanya karena diskusi tersebut bersifat pribadi. OCC, yang mengatur bank-bank AS, tidak menanggapi permintaan komentar, sementara Fed menolak untuk berkomentar.
Regulator perbankan AS telah secara terbuka memberi sinyal pengawasan yang lebih ketat terhadap penggunaan kecerdasan buatan oleh pemberi pinjaman. Tahun lalu, Kantor Akuntabilitas Pemerintah (Government Accountability Office) mengatakan bahwa regulator telah memberi tahu mereka bahwa mereka sedang menilai risiko AI untuk layanan keuangan.
Pada bulan April, OCC menyatakan bahwa mereka, The Fed, dan Federal Deposit Insurance Corporation berencana untuk mengajukan permintaan informasi formal mengenai penggunaan AI oleh bank, termasuk sistem generatif dan agenik. Permintaan tersebut tidak memberlakukan aturan baru, tetapi membantu lembaga mengumpulkan masukan sebelum memutuskan apakah akan bertindak.
Regulator sedang berupaya menilai bagaimana bank mengatasi sistem yang berkembang pesat seperti model AI mutakhir Anthropic, Mythos. Pakar keamanan siber mengatakan bahwa sistem tersebut menimbulkan tantangan signifikan bagi industri perbankan dan sistem teknologi lamanya karena potensinya untuk mengeksploitasi kerentanan siber.
Departemen Keuangan AS dan regulator juga sedang meneliti risiko keamanan siber yang ditimbulkan oleh model kecerdasan buatan baru ini dan seberapa siap perusahaan keuangan untuk mengatasinya.
Pengawasan Sistem
Untuk saat ini, pengawas berfokus pada pengumpulan informasi dan penilaian praktik industri daripada membatasi penggunaan spesifik, kata sumber.
Alih-alih mengeluarkan aturan baru yang dirancang khusus untuk AI, lembaga-lembaga tersebut mengandalkan kerangka kerja yang sudah ada, termasuk manajemen risiko model, pengawasan risiko pihak ketiga, dan undang-undang perlindungan konsumen untuk menilai bagaimana bank mengelola teknologi yang sedang berkembang ini, kata sumber-sumber tersebut.
Kekhawatiran utama bagi pengawas adalah memastikan bahwa sistem AI tidak melampaui apa yang seharusnya dilakukan atau diakses, kata sumber-sumber tersebut. Regulator sedang menyelidiki apakah alat-alat tersebut dapat mengakses atau menyimpulkan data di luar batas yang diizinkan, terutama karena model AI dirancang untuk mengekstrak dan menghubungkan informasi di seluruh sistem. Hal itu menimbulkan risiko seputar privasi, kerahasiaan, dan kepatuhan terhadap aturan, menurut sumber-sumber tersebut.
Para pemberi pinjaman diminta untuk menunjukkan kontrol apa yang mereka miliki, termasuk pengaman yang membatasi bagaimana model berperilaku dan data apa yang dapat mereka akses, tambah mereka. Pengawas juga berfokus pada pengawasan manusia dan “saklar pemutus” yang memungkinkan perusahaan untuk mematikan sistem jika perlu, serta kejelasan tentang siapa yang berwenang untuk campur tangan, kata ketiga sumber tersebut.
Area pengawasan utama lainnya adalah risiko vendor. Menurut tiga sumber tersebut, seiring dengan semakin bergantungnya bank pada penyedia pihak ketiga untuk perangkat AI, regulator mempertanyakan bagaimana perusahaan memastikan bahwa vendor tersebut dan subkontraktor mereka sendiri memenuhi standar tata kelola dan keamanan yang sama dengan bank itu sendiri.
Regulator juga menanyakan apakah bank memiliki strategi keluar jika terjadi pelanggaran keamanan pada sistem vendor, kata salah satu sumber, sebuah kekhawatiran yang meningkat seiring dengan semakin terintegrasinya penggunaan AI dalam berbagai sistem perbankan.
Pada saat yang sama, kecepatan perkembangan AI terbukti menjadi tantangan bagi regulator itu sendiri. Ketiga sumber tersebut mengatakan bahwa teknologi ini berkembang dengan kecepatan yang jauh melebihi siklus tradisional pembelajaran dan pembuatan peraturan, sehingga menimbulkan kekhawatiran bahwa panduan formal, ketika dikeluarkan, dapat dengan cepat menjadi usang.
Akibatnya, otoritas diharapkan untuk saat ini akan mengandalkan pengawasan berbasis prinsip yang luas daripada aturan preskriptif, tetapi hal ini berpotensi berubah.
“Saat ini, bank mengandalkan kerangka kerja manajemen risiko yang ada untuk memandu penggunaan AI mereka,” kata Wakil Ketua Pengawasan Federal Reserve Michelle Bowman dalam pidatonya pada bulan Mei. “Meskipun alat pengawasan ini dimaksudkan untuk mendukung bank dalam menerapkan tata kelola dan manajemen risiko yang baik, kita harus menilai apakah panduan pengawasan kita sesuai untuk masa depan.”
Sumber : CNA/SL