Paris | EGINDO.co – Peringatan datang dari segala penjuru: Kecerdasan buatan menimbulkan risiko eksistensial bagi umat manusia dan harus dibelenggu sebelum terlambat.
Namun, apa saja skenario bencana yang dimaksud dan bagaimana mesin bisa memusnahkan umat manusia?
Penjepit Kertas Malapetaka
Sebagian besar skenario bencana dimulai dari tempat yang sama: Mesin akan melampaui kapasitas manusia, lepas dari kendali manusia, dan menolak untuk dimatikan.
“Begitu kita memiliki mesin yang memiliki tujuan untuk mempertahankan diri, kita berada dalam masalah,” ujar akademisi AI Yoshua Bengio dalam sebuah acara bulan ini.
Namun karena mesin-mesin ini belum ada, membayangkan bagaimana mereka dapat menghancurkan umat manusia sering kali diserahkan kepada filsafat dan fiksi ilmiah.
Filsuf Nick Bostrom telah menulis tentang “ledakan kecerdasan” yang menurutnya akan terjadi ketika mesin-mesin super cerdas mulai merancang mesin-mesin mereka sendiri.
Dia mengilustrasikan ide tersebut dengan kisah AI super cerdas di pabrik penjepit kertas.
AI diberi tujuan akhir untuk memaksimalkan produksi penjepit kertas sehingga “pertama-tama mengubah Bumi dan kemudian potongan-potongan yang semakin besar dari alam semesta yang dapat diamati menjadi penjepit kertas”.
Gagasan Bostrom telah dianggap oleh banyak orang sebagai fiksi ilmiah, paling tidak karena dia secara terpisah berpendapat bahwa manusia adalah simulasi komputer dan mendukung teori-teori yang dekat dengan egenetika.
Dia juga baru-baru ini meminta maaf setelah pesan rasis yang dia kirimkan pada tahun 1990-an ditemukan.
Namun pemikirannya tentang AI sangat berpengaruh, menginspirasi Elon Musk dan Profesor Stephen Hawking.
The Terminator
Jika mesin super cerdas ingin menghancurkan umat manusia, mereka pasti membutuhkan bentuk fisik.
Cyborg bermata merah Arnold Schwarzenegger, yang dikirim dari masa depan untuk mengakhiri perlawanan manusia oleh AI dalam film “The Terminator”, telah membuktikan citra yang menggoda, terutama bagi media.
Namun, para ahli telah menepis ide tersebut.
“Konsep fiksi ilmiah ini tidak mungkin menjadi kenyataan dalam beberapa dekade mendatang, bahkan tidak akan pernah terjadi,” tulis kelompok kampanye Stop Killer Robots dalam sebuah laporan tahun 2021.
Namun, kelompok tersebut telah memperingatkan bahwa memberi mesin kekuatan untuk membuat keputusan tentang hidup dan mati adalah risiko eksistensial.
Pakar robot Kerstin Dautenhahn, dari Universitas Waterloo di Kanada, meremehkan kekhawatiran tersebut.
Dia mengatakan kepada AFP bahwa AI tidak mungkin memberikan kemampuan penalaran yang lebih tinggi kepada mesin atau mengilhami mereka dengan keinginan untuk membunuh semua manusia.
“Robot tidak jahat,” katanya, meskipun ia mengakui bahwa programmer dapat membuat robot melakukan hal-hal jahat.
Bahan Kimia Yang Lebih Mematikan
Skenario fiksi ilmiah yang tidak terlalu terang-terangan menunjukkan “aktor jahat” menggunakan AI untuk membuat racun atau virus baru dan melepaskannya ke dunia.
Model bahasa besar seperti GPT-3, yang digunakan untuk membuat ChatGPT, ternyata sangat bagus dalam menciptakan agen kimia baru yang mengerikan.
Sekelompok ilmuwan yang menggunakan AI untuk membantu menemukan obat baru melakukan percobaan di mana mereka mengubah AI mereka untuk mencari molekul berbahaya.
Mereka berhasil menghasilkan 40.000 agen yang berpotensi beracun dalam waktu kurang dari enam jam, seperti yang dilaporkan dalam jurnal Nature Machine Intelligence.
Pakar AI Joanna Bryson dari Hertie School di Berlin mengatakan bahwa ia dapat membayangkan seseorang dapat menemukan cara untuk menyebarkan racun seperti antraks dengan lebih cepat.
“Tapi ini bukan ancaman yang nyata,” katanya kepada AFP. “Itu hanya senjata yang mengerikan dan mengerikan.”
Spesies Yang Disusul
Aturan Hollywood menyatakan bahwa bencana besar haruslah tiba-tiba, besar, dan dramatis – tetapi bagaimana jika akhir umat manusia lambat, tenang, dan tidak pasti?
“Pada akhir yang paling suram, spesies kita mungkin akan berakhir tanpa penerus,” kata filsuf Huw Price dalam sebuah video promosi untuk Pusat Studi Risiko Eksistensial Universitas Cambridge.
Namun, ia mengatakan bahwa ada “kemungkinan yang tidak terlalu suram” di mana manusia yang didukung oleh teknologi canggih dapat bertahan hidup.
“Spesies biologis murni pada akhirnya akan punah, karena tidak ada manusia yang tidak memiliki akses ke teknologi yang memungkinkan ini,” katanya.
Kiamat yang dibayangkan sering kali dibingkai dalam istilah evolusi.
Stephen Hawking berpendapat pada tahun 2014 bahwa pada akhirnya spesies kita tidak akan mampu lagi bersaing dengan mesin AI, mengatakan kepada BBC bahwa hal tersebut dapat “menandai akhir dari ras manusia”.
Geoffrey Hinton, yang menghabiskan karirnya membangun mesin yang menyerupai otak manusia, terakhir untuk Google, berbicara dengan istilah yang sama tentang “kecerdasan super” yang menyalip manusia.
Dia mengatakan kepada penyiar AS PBS baru-baru ini bahwa ada kemungkinan “umat manusia hanyalah sebuah fase yang lewat dalam evolusi kecerdasan”.
Sumber : CNA/SL