San Francisco, CA | EGINDO.co – Anthropic menyatakan bahwa Claude “memimpin” 26 persen pekerjaan penelitian dan pengembangan kecerdasan buatan (AI) di dalam perusahaan; hal ini merupakan bagian dari langkah-langkah baru yang akan dipublikasikan secara berkala untuk menunjukkan kepada pihak luar seberapa cepat AI membangun generasi teknologi berikutnya.
AI juga berkolaborasi dengan manusia dalam lebih dari 90 persen pekerjaan penelitian yang berlangsung di perusahaan tersebut per bulan Agustus, ungkap startup yang berbasis di San Francisco itu dalam sebuah posting blog pada hari Kamis.
Anthropic menyatakan bahwa Claude tidak beroperasi secara sepenuhnya otonom dalam bagian pekerjaan mana pun yang diukur, namun kontribusinya terhadap pengembangan teknologi tersebut telah meningkat pesat dari 1 persen pada bulan Maret—berdasarkan skala yang dikembangkan oleh Epoch AI, sebuah organisasi nirlaba independen yang memantau teknologi ini.
Angka-angka tersebut memberikan gambaran publik yang sangat rinci mengenai bagaimana perusahaan-perusahaan terkemuka di industri ini mengembangkan teknologi tersebut, di tengah kekhawatiran yang kian meningkat bahwa AI dapat segera mencapai titik di mana ia mampu mendorong pengembangannya sendiri dengan sedikit masukan dari manusia.
Para peneliti telah memperingatkan bahwa seiring dengan semakin otonomnya agen AI, mereka mungkin mengembangkan perilaku yang menyimpang dari niat penciptanya dan menjadi lebih sulit untuk dipantau atau dikendalikan.
Pada hari Rabu, pesaing perusahaan tersebut, OpenAI, menyatakan akan mulai menerbitkan laporan secara berkala mengenai perilaku AI yang tidak terduga atau tidak sah, sembari mengungkapkan enam laporan mengenai perilaku model yang tidak terduga atau mengkhawatirkan.
Anthropic menyebutkan bahwa sekitar 30.000 agen AI melakukan pekerjaan penelitian dan rekayasa pada platform internal utamanya secara bersamaan pada bulan Agustus. Perusahaan menambahkan bahwa setiap tindakan yang diambil agen tersebut diperiksa terlebih dahulu sebelum dijalankan; dari lebih dari satu miliar keputusan pada bulan itu, sekitar satu dari setiap 47.000 keputusan diblokir.
Perusahaan juga mengungkapkan bahwa sekitar 6 persen daya komputasi yang digunakan Anthropic untuk penelitian AI dialokasikan untuk pekerjaan terkait keamanan pada satu minggu sampel di bulan Juli, dengan angka tersebut meningkat menjadi 12 persen untuk penelitian yang dilakukan oleh AI itu sendiri. Pihak perusahaan menyatakan bahwa angka-angka tersebut bersifat konservatif, karena daya komputasi yang memajukan aspek keamanan dan kapabilitas secara seimbang tetap dihitung sebagai pekerjaan kapabilitas.
Sumber : CNA/SL