Brussels | EGINDO.co – Para pembuat kebijakan dan anggota parlemen Uni Eropa mencapai kesepakatan pada hari Jumat (8 Desember) mengenai seperangkat aturan komprehensif pertama di dunia yang mengatur penggunaan kecerdasan buatan (AI) pada alat-alat seperti ChatGPT dan pengawasan biometrik.
Mereka akan membahas rincian dalam beberapa minggu mendatang yang dapat mengubah undang-undang final tersebut, yang diharapkan mulai berlaku awal tahun depan dan berlaku pada tahun 2026.
Sampai saat itu tiba, perusahaan didorong untuk menandatangani Pakta AI secara sukarela untuk melaksanakan kewajiban utama peraturan tersebut.
Berikut poin-poin penting yang telah disepakati:
Sistem Risiko Tinggi
Sistem AI yang disebut berisiko tinggi – sistem yang dianggap memiliki potensi signifikan membahayakan kesehatan, keselamatan, hak-hak dasar, lingkungan hidup, demokrasi, pemilu, dan supremasi hukum – harus mematuhi serangkaian persyaratan, seperti menjalani pemeriksaan. penilaian dampak hak-hak dasar, dan kewajiban untuk mendapatkan akses ke pasar UE.
Sistem AI yang dianggap menimbulkan risiko terbatas akan tunduk pada kewajiban transparansi yang sangat ringan, seperti label pengungkapan yang menyatakan bahwa konten tersebut dibuat oleh AI untuk memungkinkan pengguna memutuskan cara menggunakannya.
Penggunaan AI Dalam Penegakan Hukum
Penggunaan sistem identifikasi biometrik jarak jauh secara real-time di ruang publik oleh penegak hukum hanya akan diperbolehkan untuk membantu mengidentifikasi korban penculikan, perdagangan manusia, eksploitasi seksual, dan untuk mencegah ancaman teroris yang spesifik dan saat ini.
Mereka juga akan diizinkan dalam upaya melacak orang-orang yang dicurigai melakukan pelanggaran terorisme, perdagangan manusia, eksploitasi seksual, pembunuhan, penculikan, pemerkosaan, perampokan bersenjata, partisipasi dalam organisasi kriminal dan kejahatan lingkungan.
Sistem AI Tujuan Umum (GPAI) Dan Model Yayasan
GPAI dan model dasar akan tunduk pada persyaratan transparansi seperti menyusun dokumentasi teknis, mematuhi undang-undang hak cipta UE, dan menyebarkan ringkasan terperinci tentang konten yang digunakan untuk pelatihan algoritme.
Model dasar yang digolongkan memiliki risiko sistemik dan GPAI berdampak tinggi harus melakukan evaluasi model, menilai dan memitigasi risiko, melakukan pengujian permusuhan, melaporkan kepada Komisi Eropa mengenai insiden serius, memastikan keamanan siber, dan melaporkan efisiensi energi.
Sampai standar UE yang diselaraskan dipublikasikan, GPAI dengan risiko sistemik dapat mengandalkan kode praktik untuk mematuhi peraturan.
AI yang Dilarang
Peraturan tersebut melarang hal-hal berikut:
Sistem kategorisasi biometrik yang menggunakan karakteristik sensitif seperti politik, agama, keyakinan filosofis, orientasi seksual, ras.
Pengikisan gambar wajah yang tidak ditargetkan dari internet atau rekaman CCTV untuk membuat database pengenalan wajah.
Pengakuan emosi di tempat kerja dan lembaga pendidikan.
Penilaian sosial berdasarkan perilaku sosial atau karakteristik pribadi.
Sistem AI yang memanipulasi perilaku manusia untuk menghindari keinginan bebas mereka.
AI biasa mengeksploitasi kerentanan manusia karena usia, kecacatan, situasi sosial atau ekonomi.
Sanksi Atas Pelanggaran
Tergantung pada pelanggaran dan ukuran perusahaan yang terlibat, denda akan mulai dari US$8 juta atau 1,5 persen dari omzet tahunan global, dan meningkat hingga 7 persen dari omzet global.
Sumber : CNA/SL