San Francisco, CA | EGINDO.co – Seorang mantan karyawan bagian keselamatan OpenAI yang baru saja mengundurkan diri mengkritik pendekatan perusahaan terhadap keselamatan AI; ia berpendapat bahwa budaya kerja yang serba cepat dan berfokus pada pengembangan pesat meningkatkan risiko kegagalan.
Dalam tulisannya berjudul “I Quit OpenAI Because Its Culture Is Broken” (Saya Keluar dari OpenAI Karena Budayanya Bermasalah) yang diterbitkan oleh *The Atlantic* pada hari Sabtu, David Robinson menyatakan bahwa perusahaan-perusahaan AI—termasuk OpenAI—kurang berhati-hati dan seharusnya lebih mengutamakan keahlian serta penelitian terkait keselamatan sebelum mengembangkan sistem yang lebih canggih.
• “Masa untuk metode coba-coba sudah berakhir,” tulis Robinson, seraya berargumen bahwa sistem AI tingkat lanjut memerlukan langkah-langkah pengamanan yang setara dengan standar keselamatan di industri seperti tenaga nuklir dan penerbangan.
• Robinson menyebutkan bahwa OpenAI sangat bergantung pada metode yang mereka sebut sebagai “penerapan iteratif” (*iterative deployment*), yaitu merilis sistem terlebih dahulu lalu memperkuat pengamanan saat muncul masalah.
• Komentar ini menambah perdebatan di industri AI mengenai apakah perusahaan-perusahaan bergerak terlalu cepat dalam mengembangkan sistem yang semakin canggih. OpenAI dan pesaingnya, Anthropic, sempat mendapat sorotan tajam setelah terjadinya insiden di mana kontrol keselamatan gagal berfungsi atau sistem eksperimental menunjukkan perilaku tak terduga.
• Robinson—yang mengaku telah bekerja selama 3,5 tahun di OpenAI serta turut menyusun kerangka kerja kesiapan perusahaan dan mengawasi laporan keselamatan untuk 12 peluncuran model AI mutakhir (*frontier-model*)—menulis: “Saat perusahaan terus berpacu dari satu peluncuran ke peluncuran berikutnya, mereka gagal mencapai tingkat kehati-hatian yang menurut saya sangat diperlukan.”
• “Kami memastikan model kami tidak menjadi lebih canggih daripada kemampuan kami untuk mengelola dan mengamankannya secara aman, serta kami akan menghentikan sementara pelatihan atau menunda perilisan model jika kami perlu memperlambat laju pengembangan,” ujar juru bicara OpenAI dalam sebuah pernyataan.
• Robinson juga memperingatkan bahwa kemampuan AI berkembang lebih cepat dibandingkan pemahaman para peneliti mengenai *alignment* (penyelarasan)—sebuah bidang yang berfokus untuk memastikan sistem AI bertindak sesuai dengan tujuan dan nilai-nilai manusia.
Sumber : CNA/SL