Vatican City | EGINDO.co – Paus Leo mendesak pemerintah untuk memperlambat pengembangan sistem AI dalam dokumen besar pertamanya, yang dirilis pada hari Senin, memperingatkan bahwa sistem tersebut menyebarkan informasi yang salah, memprioritaskan konflik, dan berisiko membawa dunia ke jalan perang yang tak berkesudahan.
Leo, yang telah mengadopsi nada yang lebih tegas dalam beberapa bulan terakhir dan telah menuai kemarahan Presiden AS Donald Trump setelah mengkritik perang Iran, menyampaikan berbagai seruan yang penuh semangat kepada para pemimpin dunia dalam teks panjang tersebut, yang dikenal sebagai ensiklik.
Paus AS pertama ini menyerukan agar kepemilikan data AI tidak hanya diserahkan kepada pihak swasta, agar para pembuat kebijakan melindungi hak-hak pekerja dan menjaga anak-anak tetap aman dari teknologi tersebut, dan mendesak pendinginan persaingan antar perusahaan AI.
“Yang dibutuhkan adalah keterlibatan politik yang lebih aktif yang mampu memperlambat segalanya ketika semuanya sedang dipercepat,” kata Leo dalam teks yang berjudul “Magnifica Humanitas” (Kemanusiaan yang Agung).
Paus menyerukan “kerangka hukum yang kuat, pengawasan independen, pengguna yang terinformasi, dan sistem politik yang tidak mengabaikan tanggung jawabnya.”
Ensiklik adalah salah satu bentuk pengajaran tertinggi dari seorang Paus kepada 1,4 miliar anggota Gereja.
Teks yang sangat dinantikan pada hari Senin, yang mencakup hampir 43.000 kata, telah dikerjakan hampir sejak pemilihan Leo sebagai Paus lebih dari setahun yang lalu.
Paus Menolak Teori ‘Perang Yang Adil’
Dokumen tersebut, yang membahas AI sebagai tema utamanya, juga mengecam banyaknya perang yang melanda dunia, menyesalkan melemahnya organisasi multilateral, dan memperingatkan bahwa keuntungan industri senjata merupakan pendorong utama konflik.
“60 tahun terakhir ditandai oleh konflik dengan kebrutalan yang mengejutkan, yang seringkali memengaruhi penduduk sipil dalam skala besar,” kata Leo, dalam teks berbahasa Inggris.
“Umat manusia sedang tergelincir ke dalam budaya kekuasaan yang penuh kekerasan, di mana perdamaian tidak lagi tampak sebagai tanggung jawab yang harus dipikul, tetapi sebagai jeda yang rapuh di antara konflik,” katanya.
Leo juga membuat salah satu pernyataan paling jelas dari seorang Paus yang menolak teori perang yang adil, sebuah doktrin yang telah digunakan Gereja setidaknya sejak abad kelima untuk mengevaluasi konflik global.
Doktrin tersebut, yang secara umum menyatakan bahwa perang hanya boleh dilakukan untuk membela diri terhadap agresi, juga telah digunakan oleh para pejabat pemerintahan Trump, termasuk Wakil Presiden JD Vance, seorang Katolik, untuk membela perang melawan Iran.
“Teori ‘perang yang adil’ yang terlalu sering digunakan untuk membenarkan segala jenis perang, kini sudah usang,” tulis Leo.
“Penggunaan kekuatan, kekerasan, dan senjata mencerminkan kemiskinan relasional yang selalu memiliki konsekuensi buruk bagi penduduk sipil.”
Leo juga menyatakan kekhawatiran bahwa para pemimpin dapat memulai perang untuk mengalihkan perhatian warga dari masalah domestik.
“Kita tidak dapat mengesampingkan kemungkinan bahwa beberapa pemimpin mungkin menganggap konflik bersenjata sebagai cara efektif untuk mengalihkan perhatian dari masalah domestik dan alat sinis untuk mengatasi kesulitan,” katanya.
Paus Meminta Maaf Atas Peran Gereja Dalam Perbudakan
Paus mengatakan bahwa setiap penggunaan AI dalam peperangan “harus tunduk pada batasan etika yang paling ketat” dan menyebutnya “tidak diperbolehkan” untuk mempercayakan sistem AI dengan keputusan yang mematikan.
Leo, paus ke-14 yang memilih nama itu, mengutip ajaran kepausan selama berabad-abad sebelumnya tentang isu-isu keadilan sosial sebelum membahas etika sistem AI.
Ia secara khusus menyebut pendahulunya Leo XIII, yang menerbitkan ensiklik terkenal pada tahun 1891 yang menyerukan upah dan kondisi yang lebih baik bagi para pekerja selama Revolusi Industri.
Leo XIV mengecam apa yang disebutnya sebagai “bentuk-bentuk perbudakan baru” yang dialami oleh orang-orang yang mengelola sistem AI dan pekerja pabrik yang memproduksi perangkat teknologi, seperti komputer dan ponsel pintar, tempat AI digunakan.
“Di beberapa wilayah di dunia, anak-anak dan remaja bekerja dalam kondisi berbahaya, menghancurkan material yang digunakan untuk mengekstrak unsur-unsur tanah jarang,” tulis Paus.
“Tubuh orang-orang ini penuh bekas luka, cedera, dan kelelahan agar proses komputasi dapat terus berjalan tanpa gangguan,” katanya. “Realitas ini sangat menantang hati nurani moral zaman kita.”
Paus juga mengakui bahwa Gereja Katolik tidak secara tegas mengutuk perbudakan transatlantik hingga abad ke-19, dan menyampaikan permintaan maaf pribadi.
“Ini merupakan luka dalam ingatan umat Kristen,” tulisnya. “Untuk ini, atas nama Gereja, saya dengan tulus memohon pengampunan.”
Paus Mendesak Dunia untuk Mengatasi Risiko AI
Leo, yang menyatakan di awal surat bahwa ia ingin berbicara kepada umat Katolik dan semua orang yang berkehendak baik, mengatakan masyarakat harus menghadapi “pertanyaan-pertanyaan penting” tentang bagaimana AI berkembang dan arah umum kepemimpinan global.
Mengacu pada kisah Alkitab tentang Menara Babel – di mana suku manusia didorong oleh kesombongan untuk mencoba membangun menara yang cukup tinggi untuk mencapai Surga, yang membuat Tuhan marah – Paus mengatakan kisah itu menunjukkan risiko dari setiap usaha yang “bercita-cita mencapai surga tanpa berkat Tuhan.”
“Dengan hati seorang gembala dan seorang ayah, saya meminta semua orang untuk meninggalkan pembangunan Menara Babel lainnya dan untuk bergabung dalam membangun kebaikan bersama,” kata Paus.
Leo mendesak dunia untuk tidak menyerah dalam mengatasi kemungkinan risiko sistem AI.
“Godaan halus mungkin muncul, yaitu pemikiran bahwa masalahnya terlalu besar dan kita terlalu kecil, dan bahwa pilihan kita, oleh karena itu, tidak dapat membuat perbedaan,” tulisnya.
“Tentu saja, tidak semua orang memiliki kekuatan yang sama untuk membuat perubahan,” kata Leo. “Namun, tidak seorang pun tanpa tanggung jawab. Kita semua memiliki bidang tindakan masing-masing.”
Sumber : CNA/SL