Singapura | EGINDO.co – “Label nutrisi” untuk chatbot kecerdasan buatan generatif (GenAI) mungkin akan segera menjadi lebih umum, dengan Singapura memperkenalkan pedoman sukarela untuk platform tersebut pada hari Senin (20 Juli).
Pedoman baru ini mendorong perusahaan untuk menyertakan kartu informasi untuk chatbot GenAI mereka, yang dapat berbentuk berbeda, seperti halaman informasi khusus atau dokumen pengungkapan.
“Seperti label nutrisi atau label obat, ini memberi pengguna satu tempat terpadu untuk menemukan informasi penting tentang chatbot yang mereka gunakan,” kata Otoritas Pengembangan Media Infokom (IMDA) dalam siaran pers.
Di antara aplikasi GenAI, orang paling sering berinteraksi dengan chatbot, kata Menteri Pengembangan Digital dan Informasi Josephine Teo, saat mengumumkan pedoman tersebut di Festival Data Singapura.
Individu menggunakan aplikasi tersebut tetapi mungkin tidak mengetahui keterbatasannya atau apa yang terjadi pada data mereka, katanya, mencatat bahwa informasi ini biasanya sudah ada tetapi tersebar di berbagai ketentuan layanan dan pemberitahuan privasi.
“Label tersebut tidak memberi tahu kita setiap detail ilmiah. Sebaliknya, label tersebut memberi tahu kita hal-hal penting. Untuk apa ‘obat’ itu, bagaimana cara mengonsumsinya, berapa banyak yang direkomendasikan, efek samping apa yang perlu diwaspadai, dan kapan tidak boleh menggunakannya,” kata Ibu Teo.
“Kami memulai dengan kerangka kerja sukarela dan akan memperbaikinya dengan masukan dari industri seiring dengan perkembangan praktik.”
Kartu informasi ini harus relevan, mudah diakses, dan tepat waktu, kata IMDA. Kartu informasi tersebut harus menjawab pertanyaan yang benar-benar penting bagi pengguna – apa yang dapat dan tidak dapat dilakukan oleh chatbot, seberapa andal dan aman chatbot tersebut, bagaimana data mereka ditangani, dan bagaimana cara menyampaikan kekhawatiran atau melaporkan masalah.
Informasi tersebut harus dalam bahasa yang mudah dipahami, mudah ditemukan dan dinavigasi, serta selalu diperbarui, tambahnya.
“Seiring chatbot GenAI semakin terintegrasi dalam kehidupan sehari-hari, transparansi sangat penting karena memungkinkan pengguna untuk memahami apa yang dapat dan tidak dapat dilakukan oleh aplikasi ini, dan bagaimana risiko utama dikelola,” kata IMDA.
Meskipun pedoman ini bersifat sukarela, beberapa organisasi telah mengindikasikan bahwa mereka bermaksud untuk merujuk pada pedoman tersebut untuk memperkuat praktik transparansi untuk chatbot yang berinteraksi langsung dengan publik selama enam hingga 12 bulan ke depan, kata otoritas tersebut.
Sektor publik akan memimpin dengan memberi contoh, dengan lembaga-lembaga termasuk Dewan Perpustakaan Nasional dan Dewan Promosi Kesehatan berencana untuk melakukan hal yang sama.
Perusahaan-perusahaan termasuk DBS, Google, Meta, OCBC, dan Singapore Airlines juga akan merujuk pada pedoman tersebut saat mereka terus meningkatkan transparansi chatbot mereka, kata Ibu Teo.
Menggunakan Data untuk Mengembangkan GenAI
Ibu Teo juga mengumumkan pedoman penasihat baru tentang bagaimana organisasi harus secara bertanggung jawab mengumpulkan dan menggunakan data pribadi untuk mengembangkan GenAI.
“Sebagai contoh, tim layanan pelanggan ingin meningkatkan model GenAI menggunakan rekaman panggilan, sehingga mereka dapat merespons pertanyaan pelanggan dengan cepat dan akurat. Kita semua pernah menerima panggilan seperti ini dan diberi tahu bahwa panggilan tersebut mungkin direkam untuk pengecekan kualitas dan peningkatan.
“Tetapi kita juga tahu bahwa rekaman tersebut mungkin berisi data pribadi, seperti nama, alamat, dan detail penagihan kita,” katanya. “Apa kewajiban yang harus dipenuhi tim layanan pelanggan ini kepada pelanggan sebelum menggunakan data mereka untuk pelatihan model?”
Dengan semakin banyaknya organisasi yang mengintegrasikan GenAI ke dalam pekerjaan mereka, IMDA mengatakan penting untuk mengklarifikasi bagaimana Undang-Undang Perlindungan Data Pribadi berlaku – khususnya seputar web scraping dan penggunaan kembali data yang awalnya dikumpulkan untuk tujuan non-GenAI.
Organisasi yang mengembangkan model GenAI dapat mengambil data pribadi yang dapat diakses publik tanpa persetujuan, kata IMDA.
Namun, jika data ini berada di balik penghalang digital seperti paywall atau persyaratan pendaftaran, organisasi perlu menilai apakah data tersebut masih memenuhi syarat sebagai “tersedia untuk umum”. Jika tidak, dan tidak ada pengecualian lain yang berlaku, persetujuan harus diperoleh.
Organisasi selalu membutuhkan persetujuan untuk memproses data pribadi, termasuk memberi tahu individu mengapa data mereka dikumpulkan. Pedoman baru ini mengklarifikasi bahwa pemberitahuan ini sekarang harus secara spesifik menandai kapan data pribadi akan digunakan untuk pengembangan GenAI – pernyataan umum tentang “personalisasi layanan” atau “pengembangan produk” tidak lagi cukup, kata IMDA.
Organisasi juga harus menjelaskan data apa yang akan digunakan, untuk apa data tersebut akan digunakan, dan bagaimana individu dapat menolak atau menarik persetujuan.
Menggunakan contoh layanan pelanggan, Ibu Teo mengatakan Perusahaan dapat memperbarui kebijakan privasinya untuk menyatakan bahwa rekaman panggilan dengan pelanggan yang telah memberikan persetujuan akan digunakan untuk melatih dan meningkatkan model AI.
Skrip staf untuk meminta persetujuan juga dapat diperbarui, tambahnya.
Banyak organisasi sudah menyediakan pemberitahuan khusus AI serupa saat ini, itulah sebabnya pedoman ini melangkah lebih jauh, kata Ibu Teo, mencakup peran dan tanggung jawab pihak-pihak di seluruh rantai nilai AI dan uji tuntas ketika mengandalkan data yang tersedia untuk umum.
“Dengan kejelasan yang lebih besar tentang bagaimana persyaratan yang ada berlaku untuk GenAI, perusahaan dapat merancang proses yang lebih baik dengan perlindungan yang tepat.”
Individu juga dapat meminta akses atau koreksi data pribadi mereka bahkan setelah data tersebut digunakan untuk mengembangkan model GenAI, menurut pedoman tersebut.
IMDA mengakui bahwa hal ini mungkin sulit mengingat skala data yang terlibat, dan merekomendasikan organisasi untuk mengadopsi praktik seperti penanganan data hulu, peninjauan permintaan kasus per kasus, dan pelacakan serta langkah-langkah teknis yang tepat.
Sumber : CNA/SL