San Farancisco, CA | EGINDO.co – Laboratorium AI Anthropic pada hari Jumat menyatakan akan bermitra dengan Accenture untuk melakukan evaluasi independen terhadap model-model AI mutakhir (*frontier AI models*) mereka; kedua perusahaan berkomitmen menginvestasikan setidaknya $1 miliar selama lima tahun ke depan untuk membangun kapasitas bagi upaya tersebut.
Saham Accenture naik 7 persen dalam perdagangan di luar jam bursa reguler (*extended trading*).
Kemitraan ini terjalin di tengah meningkatnya tekanan dari regulator, perusahaan, dan peneliti terhadap para pengembang AI untuk memastikan model-model canggih mereka aman dan dapat diandalkan.
Sejumlah insiden baru-baru ini—termasuk kasus agen AI yang berhasil keluar dari lingkungan sistem yang aman—telah memicu kekhawatiran bahwa AI pada akhirnya dapat berkontribusi pada pengembangannya sendiri dengan keterlibatan manusia yang minim, sehingga perilakunya menjadi lebih sulit dipantau dan dikendalikan.
Pada hari Sabtu, CEO Anthropic, Dario Amodei, menyerukan kepada perusahaan-perusahaan AI untuk memperlambat pengembangan model mutakhir dan memberikan akses yang lebih luas bagi evaluator independen terhadap sistem mereka.
Pesaing mereka, OpenAI, pada hari Rabu menyatakan akan mulai menerbitkan laporan berkala mengenai perilaku model yang tidak terduga atau mengkhawatirkan, sembari merilis enam laporan terkait insiden semacam itu.
Unit bisnis spesialis AI Accenture, Faculty, akan memimpin kemitraan ini serta melakukan evaluasi dan pengujian keamanan intensif (*red-teaming*) terhadap model-model laboratorium AI tersebut, termasuk melakukan penilaian keselarasan (*alignment*) dan menguji mekanisme perlindungan model.
Investasi kedua perusahaan ini akan mendukung apa yang disebut Anthropic sebagai “evaluasi terintegrasi” (*embedded evaluation*), di mana evaluator independen bekerja di dalam perusahaan AI dengan akses yang setara dengan karyawan.
“Dari posisi ini, evaluator terintegrasi dapat menilai cara perusahaan beroperasi, memverifikasi kepatuhan perusahaan terhadap komitmen keselamatannya, serta mengidentifikasi titik-titik buta (*blind spots*),” ungkap Anthropic.
Para evaluator juga dapat melaporkan insiden dan memberikan informasi yang lebih komprehensif kepada publik mengenai manfaat serta risiko yang ada, tambah perusahaan tersebut.
Anthropic dan Accenture berencana untuk bekerja sama dengan evaluator dan pengembang AI lainnya dalam kapasitas serupa.
Sumber : CNA/SL