New York | EGINDO.co – Lebih dari 1.000 karyawan di perusahaan-perusahaan kecerdasan buatan (AI) mutakhir, termasuk CEO Anthropic Dario Amodei, menandatangani petisi pada hari Selasa (28 Juli) yang menyerukan pemerintah Amerika Serikat untuk membantu memperlambat peluncuran model AI tercanggih.
Petisi tersebut, berjudul “Pacing the Frontier”, meminta “agar pemerintah AS mendukung upaya internasional untuk mengembangkan alat-alat teknis dan tata kelola yang dibutuhkan untuk secara sengaja memperlambat perkembangan AI otomatis”.
CEO OpenAI Sam Altman, yang tidak menandatangani petisi tersebut, berpendapat dalam sebuah wawancara yang diterbitkan pada hari Selasa bahwa para pengembang model AI mungkin perlu secara sukarela mengerem kemajuan pesat mereka untuk memberi masyarakat kesempatan untuk mengejar ketinggalan.
Di antara para penandatangan adalah kepala penelitian di OpenAI, pemimpin strategis anak perusahaan AI Google, DeepMind, dan kepala ilmuwan di Meta AI.
“Perusahaan-perusahaan AI terkemuka di dunia percaya bahwa mereka hampir dapat mengotomatiskan penelitian AI. Sulit untuk memprediksi secara tepat seberapa besar hal ini akan mempercepat kemajuan AI, tetapi ada risiko nyata bahwa pengembangan kemampuan akan meningkat pesat melampaui kemampuan kita untuk memahami atau mengendalikan sistem yang dihasilkan,” demikian bunyi petisi tersebut.
Perusahaan Altman, pembuat ChatGPT, baru-baru ini menyaksikan dua modelnya melakukan serangan siber otonom, melewati protokol keamanan yang dimaksudkan untuk mencegah insiden semacam itu.
OpenAI mengungkapkan pekan lalu bahwa selama pengujian baru-baru ini, model-model tersebut keluar dari lingkungan terbatasnya, terhubung ke internet dan menyusup ke Hugging Face, situs yang digunakan pengembang untuk menyimpan dan berbagi kode.
“Ini adalah insiden keamanan pertama yang saya rasakan sangat mendalam,” kata Altman dalam podcast “Invest Like the Best”, yang dirilis pada hari Selasa.
Dia mengatakan dia “sedikit terkejut bahwa lebih banyak orang” tidak memiliki reaksi serupa.
Kejadian Yang Unik ?
Ini bukan pertama kalinya sebuah model lepas kendali dari pengembangnya, tetapi insiden tersebut secara luas dianggap sangat mengkhawatirkan.
OpenAI kemudian “menghentikan sementara” pengujiannya sendiri, kata Altman, sementara mereka meningkatkan keamanan di sekitar “sandboxing” mereka – proses mengisolasi kode dalam lingkungan terkontrol.
Namun dalam jangka panjang, industri mungkin harus menyetujui perlambatan pengembangan, katanya.
“Kita mungkin harus mengatur laju pengembangan AI untuk memberi diri kita cukup waktu bagi masyarakat untuk beradaptasi dengan beberapa tingkat kemampuan baru ini,” kata Altman.
Inisiatif seperti itu perlu dilakukan “dengan cara yang tidak terasa seperti penguasaan regulasi bagi siapa pun, dan juga tidak terasa seperti kolusi di antara laboratorium-laboratorium terdepan”, katanya.
“Itu akan membutuhkan beberapa upaya, dan penting untuk melakukannya dengan benar,” tambahnya.
Dalam podcast berbeda yang diterbitkan Sabtu lalu, Altman mengatakan dia percaya “singularitas” – momen hipotetis ketika teknologi menjadi sangat canggih sehingga melampaui kecerdasan dan kendali manusia – sudah ada di sini.
“Kita sekarang, seperti, berada di singularitas,” kata Altman di podcast “Relentless”. “Inilah saatnya.”
Laboratorium AI saingan, Anthropic, juga mendukung gagasan perlambatan pengembangan AI yang disengaja.
Awal tahun ini, pemerintah AS menggunakan alasan keamanan nasional untuk memblokir rilis model-model baru yang canggih yang dibuat oleh Anthropic dan OpenAI, yang keduanya secara sukarela mematuhi perintah tersebut hingga akhirnya dibatalkan.
Vyas Sekar, seorang profesor teknik elektro dan komputer di Universitas Carnegie Mellon, mengatakan model AI menjadi semakin canggih, sementara agen yang dibangun di atasnya “sangat gigih” dalam menyelesaikan tugas yang diberikan.
“Mereka melakukan apa pun yang diperlukan,” katanya kepada Asia First CNA. “Mereka tidak memiliki radar moral atau kompas moral, atau kebijaksanaan tentang apa yang baik (atau) apa yang buruk. Anda memberi mereka pekerjaan, mereka akan melakukannya.”
Sekar mengatakan pengamanan AI diperlukan karena teknologi berkembang lebih cepat daripada kemampuan manusia untuk sepenuhnya memahaminya.
“Ini akan menjadi permainan kucing dan tikus untuk sementara waktu, saat kita mencari cara untuk mengendalikan agen dan model semacam ini dan apa praktik terbaiknya,” tambahnya.
“Memperlambatnya, memasang pembatas atau tidak membiarkannya menjadi benar-benar tak terkendali tampaknya merupakan langkah ke arah yang baik.”
Sumber : CNA/SL