Washington | EGINDO.co – Perusahaan-perusahaan AI terbesar di dunia sedang berupaya membentuk badan standar, demikian disampaikan oleh OpenAI—pembuat ChatGPT—pada hari Selasa (15 September), di tengah meningkatnya kekhawatiran mengenai bahaya AI dan adanya tekanan untuk menciptakan versi teknologi yang lebih aman.
OpenAI menyatakan pihaknya sedang bekerja sama dengan Anthropic dan Google untuk merealisasikan gagasan yang bermula dari usulan Demis Hassabis dari Google DeepMind. Usulan tersebut mencakup pembentukan badan regulasi mandiri yang modelnya mengacu pada *Financial Industry Regulatory Authority* (FINRA), lembaga yang mengawasi perusahaan pialang dan investasi di Amerika Serikat.
Pada bulan Juli, Hassabis menyerukan agar Amerika Serikat membentuk sebuah organisasi yang bertugas menguji sistem AI paling canggih sebelum dirilis ke publik.
“Pendanaan harus dalam jumlah besar dan kemungkinan besar berasal dari industri, guna menarik talenta teknis kelas dunia serta menyediakan sumber daya komputasi yang diperlukan untuk pengujian berskala besar,” tulis Hassabis.
CEO OpenAI, Sam Altman, pada hari Selasa menyatakan dukungannya terhadap kolaborasi lintas industri dan mengakui adanya kekhawatiran publik bahwa persaingan antarperusahaan maupun antarnegara dapat mengesampingkan aspek keselamatan.
“Menurut saya, langkah yang sangat baik bagi industri kita untuk menyatakan bahwa kita ingin bersatu, berkoordinasi, dan memastikan kita memiliki waktu yang cukup untuk melakukan hal ini dengan aman,” ujar Altman dalam sebuah konferensi yang diselenggarakan oleh Salesforce di San Francisco.
“Ketika muncul indikasi…” bahwa ada pihak di industri yang mungkin “tidak melakukan hal yang benar, menurut saya saat itulah orang-orang merasa sangat takut,” tambah Altman.
Beberapa tokoh teknologi khawatir bahwa kerja sama di antara perusahaan-perusahaan raksasa AI akan menyingkirkan para pesaing yang lebih kecil.
Pimpinan perusahaan AI asal Kanada, Cohere, baru-baru ini menuduh laboratorium AI dominan asal Amerika Serikat membentuk “kartel” dengan dalih keselamatan.
“AI membutuhkan batasan pengaman (*guardrails*). Hal itu bukanlah pokok perdebatan, dan memang tidak pernah menjadi masalah. Perdebatan yang sebenarnya adalah mengenai siapa yang menyusun aturan tersebut, siapa yang dapat berpartisipasi, dan kepentingan siapa yang dilindungi oleh aturan itu,” tulis salah satu pendiri sekaligus CEO Cohere, Aidan Gomez, dalam sebuah unggahan blog pada hari Minggu.
Kekhawatiran mengenai keselamatan AI telah meningkat dalam beberapa minggu terakhir, termasuk adanya peringatan dari para pekerja yang mengundurkan diri dari perusahaan-perusahaan AI besar karena kekhawatiran akan risiko industri tersebut.
Pekan lalu, peneliti Jacob Coxon meninggalkan Anthropic dan memperingatkan bahwa perusahaan-perusahaan AI sedang “mempertaruhkan nyawa kita”. Ia sebelumnya juga pernah bekerja di OpenAI. Pada hari Senin, mantan peneliti Google DeepMind, Bilal Chughtai, menyuarakan kembali kekhawatiran yang sebelumnya disampaikan oleh Coxon dan pihak-pihak lain.
“Saya sangat yakin bahwa AI memiliki potensi untuk memusnahkan kita semua, dan mungkin waktu kita sudah hampir habis untuk menghindari skenario tersebut,” tulis Chughtai di media sosial.
Pada hari Sabtu, CEO Anthropic, Dario Amodei, menyerukan perlambatan laju pengembangan AI—sebuah gagasan yang didukung oleh CEO OpenAI Sam Altman, Elon Musk, maupun Hassabis.
Senator AS Bernie Sanders, yang mengkhawatirkan dampak bencana akibat AI, menyatakan bahwa para pemimpin perusahaan teknologi tidak dapat dipercaya untuk menepati janji mereka dalam memperlambat pengembangan atau menetapkan standar keselamatan.
“Ketika masa depan umat manusia dipertaruhkan, kita membutuhkan aturan keselamatan internasional yang mengikat, bukan sekadar standar sukarela dari industri,” ujar Sanders dalam sebuah acara mengenai keselamatan AI di Washington.
Altman memperingatkan bahwa insiden terkait AI—baik berskala kecil maupun besar—mungkin tidak dapat dihindari.
“Insiden yang melibatkan teknologi baru apa pun tidak dapat dihindari, dan kita harus memiliki budaya pelaporan yang transparan mengenai hal tersebut,” kata Altman.
“Belajar dengan cepat dari insiden-insiden itu serta beradaptasi saat hal itu terjadi menurut saya akan bermanfaat bagi industri kita, dan mungkin kita bisa menghindari” insiden yang lebih besar dan berpotensi menimbulkan bencana, lanjut Altman.
Pada hari Senin, Presiden AS Donald Trump menepis berbagai peringatan mengenai risiko AI dengan menyebutnya sebagai “hoaks”.
CEO Nvidia, Jensen Huang, juga menanggapi dengan skeptis, mengisyaratkan keyakinan bahwa peringatan-peringatan mengenai AI tersebut merupakan bagian dari kampanye yang terkoordinasi.
“Gabungan antara pernyataan-pernyataan tersebut dan prediksi yang menyertainya sungguh mengkhawatirkan serta meresahkan; hal itu seharusnya tidak dilakukan. Itu tindakan yang tidak bertanggung jawab,” ujar Huang pada hari Senin dalam sebuah konferensi di Los Angeles—acara di mana Trump meneleponnya saat ia sedang berada di atas panggung.
Dalam percakapan telepon tersebut, Huang berterima kasih kepada Trump karena telah “melihat melampaui” peringatan-peringatan mengenai AI itu.
Nvidia memegang peran sentral dalam revolusi AI, dengan cip buatannya menjadi penggerak bagi sebagian besar sistem yang ada, dan Huang sendiri telah menjadi penasihat informal bagi Trump.
Sumber : CNA/SL