London | EGINDO.co – Inggris akan bekerja sama dengan Microsoft, akademisi, dan para ahli untuk mengembangkan sistem guna mendeteksi materi deepfake secara daring, kata pemerintah pada hari Kamis, seiring dengan upaya untuk menetapkan standar dalam menangani konten yang dihasilkan AI yang berbahaya dan menipu.
Meskipun materi yang dimanipulasi telah beredar secara daring selama beberapa dekade, adopsi cepat chatbot AI generatif – yang dimungkinkan melalui peluncuran ChatGPT dan lainnya – telah memperkuat kekhawatiran tentang skala dan realisme deepfake.
Inggris, yang baru-baru ini mengkriminalisasi pembuatan gambar intim tanpa persetujuan, mengatakan sedang mengerjakan kerangka kerja evaluasi deteksi deepfake untuk menetapkan standar yang konsisten dalam menilai alat dan teknologi deteksi.
“Deepfake dipersenjatai oleh para penjahat untuk menipu publik, mengeksploitasi perempuan dan anak perempuan, dan merusak kepercayaan pada apa yang kita lihat dan dengar,” kata Menteri Teknologi Liz Kendall dalam sebuah pernyataan.
Pemerintah Terdorong Untuk Bertindak Karena Gambar-Gambar Yang Tidak Disetujui
Kerangka kerja ini akan mengevaluasi bagaimana teknologi dapat digunakan untuk menilai, memahami, dan mendeteksi materi deepfake yang berbahaya, terlepas dari sumbernya, kata pemerintah, dengan menguji teknologi deteksi deepfake terhadap ancaman dunia nyata seperti pelecehan seksual, penipuan, dan peniruan identitas.
Hal itu akan membantu pemerintah dan penegak hukum memperoleh pengetahuan yang lebih baik tentang di mana celah dalam deteksi masih ada, katanya, menambahkan bahwa kerangka kerja tersebut akan digunakan untuk menetapkan harapan yang jelas bagi industri tentang standar deteksi deepfake.
Diperkirakan 8 juta deepfake dibagikan pada tahun 2025, naik dari 500.000 pada tahun 2023, menurut angka pemerintah.
Pemerintah dan regulator di seluruh dunia, yang berjuang untuk mengikuti perkembangan pesat teknologi AI, terdorong untuk bertindak tahun ini, karena chatbot Grok milik Elon Musk ditemukan menghasilkan gambar-gambar seksual yang tidak disetujui dari orang-orang, termasuk anak-anak.
Lembaga pengawas komunikasi dan regulator privasi Inggris sedang melakukan investigasi paralel terhadap Grok.
Sumber : CNA/SL