New York | EGINDO.co – Sebuah video hasil rekayasa yang meniru suara Wakil Presiden Kamala Harris yang mengatakan hal-hal yang tidak dikatakannya menimbulkan kekhawatiran tentang kekuatan kecerdasan buatan untuk menyesatkan menjelang hari pemilihan sekitar tiga bulan lagi.
Video tersebut menarik perhatian setelah miliarder teknologi Elon Musk membagikannya di platform media sosial miliknya, X, pada Jumat (26 Juli) malam tanpa secara eksplisit menyebutkan bahwa video tersebut awalnya dirilis sebagai parodi.
Video tersebut menggunakan banyak visual yang sama seperti iklan asli yang dirilis Harris, calon presiden dari Partai Demokrat, minggu lalu saat meluncurkan kampanyenya. Namun, video tersebut mengganti audio pengisi suara dengan suara lain yang secara meyakinkan meniru Harris.
“Saya, Kamala Harris, adalah kandidat presiden dari Partai Demokrat karena Joe Biden akhirnya memperlihatkan kepikunannya dalam debat,” kata suara dalam video tersebut. Suara tersebut mengklaim Harris adalah “karyawan yang berasal dari berbagai kalangan” karena ia adalah seorang perempuan dan orang kulit berwarna, dan ia mengatakan bahwa ia tidak tahu “hal pertama yang harus dilakukan untuk menjalankan negara”. Video tersebut mempertahankan merek “Harris for President”. Video itu juga menambahkan beberapa klip masa lalu Harris yang autentik.
Mia Ehrenberg, juru bicara kampanye Harris, mengatakan dalam email kepada The Associated Press: “Kami percaya rakyat Amerika menginginkan kebebasan, kesempatan, dan keamanan sejati yang ditawarkan Wakil Presiden Harris; bukan kebohongan palsu dan dimanipulasi dari Elon Musk dan Donald Trump.”
Video yang dibagikan secara luas itu adalah contoh bagaimana gambar, video, atau klip audio yang dihasilkan AI yang tampak nyata telah digunakan untuk mengolok-olok dan menyesatkan tentang politik saat Amerika Serikat semakin dekat dengan pemilihan presiden. Video itu mengungkap bagaimana, saat perangkat AI berkualitas tinggi menjadi jauh lebih mudah diakses, sejauh ini masih belum ada tindakan federal yang signifikan untuk mengatur penggunaannya, sehingga aturan yang mengatur AI dalam politik sebagian besar diserahkan kepada negara bagian dan platform media sosial.
Video itu juga menimbulkan pertanyaan tentang cara terbaik menangani konten yang mengaburkan batasan tentang apa yang dianggap sebagai penggunaan AI yang tepat, terutama jika konten itu termasuk dalam kategori satir.
Pengguna asli yang mengunggah video tersebut, seorang YouTuber yang dikenal sebagai Tn. Reagan, telah mengungkapkan di YouTube dan di X bahwa video yang dimanipulasi itu adalah parodi. Namun, unggahan Musk, yang telah ditonton lebih dari 123 juta kali, menurut platform tersebut, hanya menyertakan teks “Ini luar biasa” dengan emoji tertawa.
Pengguna X yang familier dengan platform tersebut mungkin tahu untuk mengeklik unggahan Musk ke unggahan pengguna asli, tempat pengungkapan tersebut terlihat. Teks Musk tidak mengarahkan mereka untuk melakukannya.
Sementara beberapa peserta dalam fitur “catatan komunitas” X untuk menambahkan konteks ke unggahan telah menyarankan untuk memberi label pada unggahan Musk, tidak ada label seperti itu yang ditambahkan ke dalamnya hingga Minggu sore. Beberapa pengguna daring mempertanyakan apakah unggahannya mungkin melanggar kebijakan X, yang menyatakan pengguna “tidak boleh membagikan media sintetis, yang dimanipulasi, atau di luar konteks yang dapat menipu atau membingungkan orang dan menyebabkan kerugian.”
Kebijakan tersebut memiliki pengecualian untuk meme dan satir selama tidak menyebabkan “kebingungan yang signifikan tentang keaslian media.”
Musk mendukung mantan presiden Donald Trump, calon dari Partai Republik, awal bulan ini. Baik Tn. Reagan maupun Musk tidak segera menanggapi permintaan komentar melalui email pada hari Minggu.
Dua pakar yang mengkhususkan diri dalam media yang dihasilkan AI meninjau audio iklan palsu tersebut dan mengonfirmasi bahwa sebagian besarnya dihasilkan menggunakan teknologi AI.
Salah satunya, pakar forensik digital dari University of California, Berkeley, Hany Farid, mengatakan video tersebut menunjukkan kekuatan AI generatif dan deepfake.
“Suara yang dihasilkan AI sangat bagus,” katanya dalam email. “Meskipun kebanyakan orang tidak akan percaya bahwa itu adalah suara Wapres Harris, video tersebut jauh lebih kuat ketika kata-kata tersebut diucapkan dalam suaranya.”
Ia mengatakan perusahaan AI generatif yang membuat alat kloning suara dan alat AI lainnya tersedia untuk umum harus berusaha lebih baik untuk memastikan layanan mereka tidak digunakan dengan cara yang dapat merugikan orang atau demokrasi.
Rob Weissman, salah satu presiden kelompok advokasi Public Citizen, tidak setuju dengan Farid, dengan mengatakan bahwa ia mengira banyak orang akan tertipu oleh video tersebut.
“Saya tidak menganggap itu lelucon,” kata Weissman dalam sebuah wawancara. “Saya yakin sebagian besar orang yang melihatnya tidak menganggapnya lelucon. Kualitasnya tidak bagus, tetapi cukup bagus. Dan justru karena hal itu mendukung tema-tema yang sudah ada sebelumnya yang telah beredar di sekitarnya, sebagian besar orang akan percaya bahwa itu nyata.” Weissman, yang organisasinya telah mengadvokasi Kongres, lembaga federal, dan negara bagian untuk mengatur AI generatif, mengatakan bahwa video tersebut adalah “jenis hal yang telah kami peringatkan”.
Deepfake AI generatif lainnya di AS dan tempat lain akan mencoba memengaruhi pemilih dengan misinformasi, humor, atau keduanya. Di Slovakia pada tahun 2023, klip audio palsu meniru seorang kandidat yang mendiskusikan rencana untuk mencurangi pemilihan umum dan menaikkan harga bir beberapa hari sebelum pemungutan suara. Di Louisiana pada tahun 2022, iklan satir dari komite aksi politik menumpangkan wajah kandidat wali kota Louisiana ke seorang aktor yang memerankannya sebagai siswa sekolah menengah yang berprestasi rendah.
Kongres belum meloloskan undang-undang tentang AI dalam politik, dan lembaga federal hanya mengambil langkah terbatas, menyerahkan sebagian besar peraturan AS yang ada kepada negara bagian. Lebih dari sepertiga negara bagian telah membuat undang-undang mereka sendiri yang mengatur penggunaan AI dalam kampanye dan pemilihan umum, menurut National Conference of State Legislatures.
Selain X, perusahaan media sosial lainnya juga telah membuat kebijakan terkait media sintetis dan manipulasi yang dibagikan di platform mereka. Pengguna di platform video YouTube, misalnya, harus mengungkapkan apakah mereka telah menggunakan kecerdasan buatan generatif untuk membuat video atau menghadapi penangguhan.
Sumber : CNA/SL