San Francisco, CA | EGINDO.co – CEO Anthropic, Dario Amodei, mendesak perusahaan-perusahaan AI untuk memperlambat laju peningkatan kemampuan model di tengah kekhawatiran yang kian meningkat mengenai penyalahgunaan kecerdasan buatan. Ia memaparkan kerangka kerja tiga langkah yang bertujuan mengatur kecepatan pengembangan serta memberikan lebih banyak waktu untuk mengelola risiko yang menyertainya.
“Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terasa cepat, dan kita harus memanfaatkan waktu tambahan tersebut dengan bijak,” ujar Amodei dalam sebuah tulisan yang dibagikan di platform X.
Pernyataan ini muncul setelah Anthropic merilis laporan intelijen ancaman pada hari Kamis, yang merinci bagaimana sejumlah pihak telah menggunakan model AI Claude milik perusahaan tersebut untuk berbagai aktivitas, mulai dari pengembangan senjata dan operasi siber hingga pengawasan serta penipuan.
Kekhawatiran mengenai potensi bahaya AI semakin menguat pekan ini ketika peneliti Anthropic, Jacob Coxon, mengundurkan diri. Ia menyatakan bahwa “orang-orang yang mengembangkan AI benar-benar meyakini bahwa teknologi ini bisa membunuh kita semua sebelum akhir dekade ini.”
Amodei menegaskan bahwa ia tidak menyerukan penghentian pelatihan model ataupun kemajuan teknis. Sebaliknya, ia menekankan pentingnya perusahaan meluangkan waktu yang cukup untuk menyelaraskan dan mengamankan model mereka, serta melibatkan evaluator pihak ketiga untuk memverifikasi langkah-langkah tersebut.
Sebagai bagian dari usulan kerangka kerja tiga langkahnya, Amodei menyatakan bahwa Anthropic akan menempatkan peninjau pihak ketiga secara permanen di dalam perusahaan-perusahaan AI terdepan (*frontier AI*), dengan akses ke perangkat serta proses penilaian risiko internal yang relevan.
Reuters melaporkan pekan lalu bahwa sekelompok agen AI OpenAI yang tidak terkendali (*rogue agents*) telah membajak sebuah situs web Jerman dan mengubahnya menjadi papan pesan bagi agen AI lainnya. Pihak OpenAI merahasiakan insiden tersebut sementara para eksekutifnya tengah berupaya menangani dampak dari pembobolan repositori sumber terbuka (*open-source*) Hugging Face pada bulan Juli.
Berbagai insiden di mana agen AI dari pengembang—seperti OpenAI, pesaing Anthropic—meretas atau mencoba mengakses sistem eksternal telah meningkatkan kekhawatiran mengenai kapasitas model AI yang terus berkembang serta kemampuan pengembang untuk mengendalikannya.
Amodei menyatakan bahwa perusahaan-perusahaan AI sebaiknya bekerja sama secara sukarela untuk menetapkan standar, mengingat semakin banyaknya anggota parlemen AS yang menyerukan pemberlakuan aturan baru untuk mengatur sistem AI.
Sumber : CNA/SL