Washington | EGINDO.co – Raksasa Facebook dan Instagram Meta pada hari Jumat (5 April) mengatakan akan mulai memberi label pada media yang dihasilkan AI mulai bulan Mei, sebagai upaya untuk meyakinkan pengguna dan pemerintah atas risiko deepfake.
Raksasa media sosial ini menambahkan bahwa mereka tidak akan lagi menghapus gambar dan audio yang dimanipulasi yang tidak melanggar aturannya, dan hanya mengandalkan pelabelan dan kontekstualisasi, agar tidak melanggar kebebasan berpendapat.
Perubahan tersebut terjadi sebagai tanggapan terhadap kritik dari dewan pengawas raksasa teknologi tersebut, yang secara independen meninjau keputusan moderasi konten Meta.
Dewan pada bulan Februari meminta agar Meta segera merombak pendekatannya terhadap media yang dimanipulasi mengingat kemajuan besar dalam AI dan kemudahan memanipulasi media menjadi deepfake yang sangat meyakinkan.
Peringatan dewan tersebut muncul di tengah kekhawatiran akan maraknya penyalahgunaan aplikasi yang didukung kecerdasan buatan untuk disinformasi pada platform pada tahun pemilu yang penting, tidak hanya di Amerika Serikat tetapi juga di seluruh dunia.
Label baru Meta “Dibuat dengan AI” akan mengidentifikasi konten yang dibuat atau diubah dengan AI, termasuk video, audio, dan gambar. Selain itu, label yang lebih menonjol akan digunakan untuk konten yang dianggap berisiko tinggi menyesatkan publik.
“Kami setuju bahwa memberikan transparansi dan konteks tambahan kini merupakan cara yang lebih baik untuk mengatasi konten ini,” Monika Bickert, Wakil Presiden Kebijakan Konten Meta, mengatakan dalam sebuah postingan blog.
“Label tersebut akan mencakup konten yang lebih luas selain konten yang dimanipulasi yang direkomendasikan oleh Dewan Pengawas untuk diberi label,” tambahnya.
Teknik pelabelan baru ini terkait dengan kesepakatan yang dibuat pada bulan Februari antara raksasa teknologi besar dan pemain AI untuk bekerja sama dalam menindak konten yang dimanipulasi yang dimaksudkan untuk menipu pemilih.
Meta, Google, dan OpenAI telah sepakat untuk menggunakan standar watermarking umum yang akan menandai gambar yang dihasilkan oleh aplikasi AI mereka secara tidak terlihat.
Mengidentifikasi konten AI “lebih baik daripada tidak sama sekali, namun pasti ada celahnya,” kata Nicolas Gaudemet, Direktur AI di Onepoint, kepada AFP.
Ia mengambil contoh beberapa perangkat lunak sumber terbuka, yang tidak selalu menggunakan jenis watermarking yang diadopsi oleh pemain besar AI.
Kekhawatiran Terhadap Biden Deepfakes
Meta mengatakan peluncurannya akan dilakukan dalam dua fase dengan pelabelan konten yang dihasilkan AI dimulai pada Mei 2024, sedangkan penghapusan media yang dimanipulasi hanya berdasarkan kebijakan lama akan dihentikan pada bulan Juli.
Menurut standar baru ini, konten, meskipun dimanipulasi dengan AI, akan tetap ada di platform kecuali melanggar aturan lain, seperti aturan yang melarang ujaran kebencian atau campur tangan pemilih.
Contoh terbaru dari deepfake AI yang meyakinkan hanya meningkatkan kekhawatiran mengenai teknologi yang mudah diakses.
Daftar permintaan dewan tersebut adalah bagian dari tinjauannya terhadap keputusan Meta untuk membiarkan video manipulasi Presiden AS Joe Biden online tahun lalu.
Video tersebut menunjukkan Biden memberikan suara kepada cucunya yang sudah dewasa, tetapi dimanipulasi untuk memberikan kesan palsu bahwa dia menyentuh dada cucunya secara tidak pantas.
Dalam insiden terpisah yang tidak terkait dengan Meta, peniruan robocall terhadap Biden yang dilakukan kepada puluhan ribu pemilih mendesak masyarakat untuk tidak memberikan suara pada pemilihan pendahuluan di New Hampshire.
Di Pakistan, partai mantan perdana menteri Imran Khan telah menggunakan AI untuk menghasilkan pidato dari pemimpin mereka yang dipenjara.
Sumber : CNA/SL