New York | EGINDO.co – Dewan Pengawas Meta pada hari Kamis mengatakan peraturan perusahaan “tidak cukup jelas” dalam melarang penggambaran orang sungguhan yang dibuat dengan kecerdasan buatan yang mengandung unsur seksual dan menyerukan perubahan untuk menghentikan peredaran gambar tersebut di platformnya.

Dewan tersebut, yang didanai oleh raksasa media sosial tetapi beroperasi secara independen, mengeluarkan putusannya setelah meninjau dua gambar palsu pornografi wanita terkenal yang dibuat menggunakan kecerdasan buatan dan diunggah di Facebook dan Instagram Meta.

Meta mengatakan akan meninjau rekomendasi dewan dan memberikan pembaruan tentang setiap perubahan yang diadopsi.

Dalam laporannya, dewan tersebut mengidentifikasi kedua wanita tersebut hanya sebagai tokoh masyarakat perempuan dari India dan Amerika Serikat, dengan alasan masalah privasi.

Dewan tersebut menemukan kedua gambar tersebut melanggar peraturan Meta yang melarang “photoshop seksual yang merendahkan,” yang diklasifikasikan perusahaan tersebut sebagai bentuk perundungan dan pelecehan, dan mengatakan Meta seharusnya segera menghapusnya.

Dalam kasus yang melibatkan wanita India tersebut, Meta gagal meninjau laporan pengguna atas gambar tersebut dalam waktu 48 jam, yang menyebabkan tiket ditutup secara otomatis tanpa tindakan apa pun.

Pengguna mengajukan banding, tetapi perusahaan tersebut kembali menolak untuk bertindak, dan baru mengubah arah setelah dewan menangani kasus tersebut, katanya.

Dalam kasus selebritas Amerika tersebut, sistem Meta secara otomatis menghapus gambar tersebut.

“Pembatasan terhadap konten ini sah,” kata dewan tersebut. “Mengingat beratnya kerugian, menghapus konten tersebut adalah satu-satunya cara yang efektif untuk melindungi orang-orang yang terdampak.”

Dewan tersebut merekomendasikan Meta untuk memperbarui aturannya guna memperjelas cakupannya, dengan mengatakan, misalnya, bahwa penggunaan kata “photoshop” “terlalu sempit” dan larangan tersebut harus mencakup berbagai teknik penyuntingan, termasuk AI generatif.

Dewan tersebut juga mengecam Meta karena menolak menambahkan gambar wanita India tersebut ke dalam basis data yang memungkinkan penghapusan otomatis seperti yang terjadi dalam kasus wanita Amerika tersebut.

Menurut laporan tersebut, Meta memberi tahu dewan bahwa mereka bergantung pada liputan media untuk menentukan kapan harus menambahkan gambar ke basis data, sebuah praktik yang disebut dewan sebagai “mengkhawatirkan.”

“Banyak korban gambar intim deepfake tidak menjadi sorotan publik dan terpaksa menerima penyebaran penggambaran mereka yang tidak konsensual atau mencari dan melaporkan setiap kejadian,” kata dewan tersebut.

Sumber : CNA/SL