New York | EGINDO.co – Perusahaan kecerdasan buatan Anthropic pada hari Kamis (4 Juni) menyarankan jeda global dalam pengembangan sistem AI paling canggih karena model-model terbaru mulai menunjukkan tanda-tanda bahwa mereka dapat lepas dari kendali manusia.
Perusahaan yang berbasis di San Francisco ini, yang membuat keluarga model AI Claude, mengatakan dalam sebuah laporan bahwa perlambatan pengembangan AI mutakhir di seluruh dunia “kemungkinan akan menjadi hal yang baik” – tetapi memperingatkan bahwa jika hanya satu perusahaan yang berhenti, para pesaing akan dengan mudah melaju lebih cepat.
“Kami percaya akan baik bagi dunia untuk memiliki opsi untuk memperlambat atau menghentikan sementara pengembangan AI mutakhir untuk memungkinkan struktur masyarakat dan penelitian penyelarasan untuk mengikuti kemajuan teknologi,” katanya.
Agar jeda nyata dapat berhasil, dibutuhkan beberapa perusahaan AI besar di berbagai negara – terutama AS dan Tiongkok – semuanya setuju untuk berhenti pada waktu yang sama, di bawah aturan yang dapat diverifikasi oleh semua orang, kata Anthropic.
Ide tersebut mungkin agak tidak populer di kalangan orang-orang seperti Elon Musk, karena debut pasar saham yang sangat dinantikan dari perusahaan SpaceX miliknya – yang memiliki perusahaan AI xAI – diperkirakan akan menjadikannya triliuner pertama di dunia.
“Tanpa mekanisme koordinasi global, perusahaan dan pemerintah harus membuat keputusan sulit tentang keselamatan di bawah tekanan persaingan dan geopolitik,” katanya.
Perusahaan tersebut telah menghadapi penolakan dari pihak lain di industri ini – dan para pejabat di Gedung Putih – yang mengatakan bahwa fokusnya pada skenario terburuk melebih-lebihkan risiko dan sama dengan strategi untuk memperlambat pesaing dengan kedok kekhawatiran keselamatan.
Namun demikian, Gedung Putih telah mengakui kekuatan model Mythos perusahaan tersebut, yang belum tersedia untuk masyarakat umum karena kemampuan keamanan sibernya dan saat ini hanya diterapkan pada sejumlah kecil organisasi yang telah diverifikasi.
Proposal tersebut akan menghadapi tantangan berat di Washington dan Silicon Valley, di mana para pejabat AS dan eksekutif teknologi telah berulang kali berpendapat bahwa setiap perlambatan dalam pengembangan AI berisiko memberikan keunggulan strategis yang menentukan bagi China dalam apa yang banyak dilihat sebagai perlombaan teknologi terpenting abad ini.
Namun, Presiden AS Donald Trump mengatakan bahwa ia membahas kemungkinan kerja sama dengan China dalam masalah keamanan AI selama kunjungannya baru-baru ini ke Beijing.
Trump juga menandatangani perintah eksekutif minggu ini yang memberi pemerintah waktu 30 hari untuk melakukan tinjauan awal terhadap model AI AS yang paling canggih sebelum dirilis.
“Peran Manusia Semakin Menyempit”
Anthropic membandingkan masalah ini dengan perjanjian pengendalian senjata nuklir – tetapi mengatakan bahwa akan lebih sulit untuk mengatasinya, karena pelatihan AI jauh lebih mudah disembunyikan daripada silo rudal, dan godaan untuk terus berjalan secara diam-diam akan sangat besar.
“Anda menginginkan pilihan untuk dapat melepaskan pedal gas dan menginjak rem,” kata salah satu pendiri Anthropic, Jack Clark, kepada BBC Newsnight Inggris pada hari Kamis.
“Saat ini, industri AI seperti memiliki pedal gas, tetapi tidak memiliki pedal rem.”
Perusahaan tersebut mengatakan berencana untuk mengumpulkan pejabat pemerintah, ilmuwan, kelompok advokasi, dan perusahaan AI yang bersaing dalam beberapa bulan mendatang untuk mencari tahu bagaimana sistem seperti itu dapat bekerja.
Seruan untuk koordinasi ini muncul bersamaan dengan data internal yang menunjukkan bahwa AI telah secara dramatis mempercepat pengembangan AI itu sendiri, kata Anthropic.
Percepatan itu menciptakan lingkaran umpan balik yang menurut Anthropic pada akhirnya dapat mengarah pada apa yang disebut para peneliti sebagai “peningkatan diri rekursif”.
Itu adalah gagasan tentang sistem AI yang pada dasarnya mampu mengajari dirinya sendiri untuk menjadi lebih pintar, tanpa banyak bantuan manusia.
“Kita belum sampai di sana, dan peningkatan diri rekursif bukanlah hal yang tak terhindarkan,” kata laporan itu, sambil menambahkan bahwa hal itu dapat terjadi lebih cepat daripada yang siap dihadapi oleh sebagian besar pemerintah dan lembaga.
“Bukti menunjukkan bahwa peran manusia semakin menyempit di setiap langkah dalam proses pengembangan AI,” kata perusahaan itu.
Sumber : CNA/SL