San Francisco, CA | EGINDO.co – Anthropic pada hari Kamis (10 September) menyatakan telah menggagalkan beberapa dugaan penggunaan berbahaya terhadap model Claude miliknya selama delapan bulan terakhir, termasuk dugaan kampanye spionase siber yang terkait dengan Rusia serta upaya perusahaan AI asal Tiongkok yang dituduh berusaha mengekstrak dan mereplikasi kemampuan Claude.
Penjahat siber dan peretas yang didukung negara semakin sering menggunakan AI tidak hanya untuk membantu tugas-tugas tertentu, tetapi juga untuk mengatur dan menjalankan sebagian besar tahapan serangan siber, ungkap Anthropic dalam laporan *Threat Intelligence* (intelijen ancaman) terbarunya. Perusahaan tersebut menambahkan bahwa manusia lebih sering berperan sebagai pengawas daripada operator yang menjalankan tugas secara langsung.
“Penggunaan AI telah melampaui sekadar tanya-jawab sederhana dengan chatbot, melainkan melibatkan penggunaan kerangka kerja multi-agen untuk menjalankan” berbagai tugas, kata Anthropic.
Anthropic menyatakan telah menggagalkan serangan dari tujuh laboratorium yang berbasis di Tiongkok selama periode tersebut. Di antara laboratorium yang disebutkan oleh Anthropic adalah raksasa teknologi Alibaba, Moonshot, DeepSeek, dan Xiaomi.
Operator yang dikaitkan dengan Alibaba menjalankan apa yang disebut Anthropic sebagai serangan “distilasi ilegal” terbesar; serangan ini diduga bertujuan mengekstrak kemampuan model Claude dan menggunakannya untuk menyempurnakan model Qwen milik perusahaan teknologi Tiongkok tersebut, ujar pihak perusahaan. Alibaba tidak segera menanggapi permintaan komentar.
Anthropic mengatakan pihaknya mencatat lebih dari 151 juta interaksi yang dikaitkan dengan Alibaba antara bulan Mei dan Juli 2026, dengan puncak aktivitas mencapai hampir 3 juta interaksi per hari yang berasal dari lebih dari 3.500 akun yang dikategorikan sebagai akun palsu.
Distilasi mengacu pada proses melatih model AI yang lebih kecil menggunakan keluaran (*output*) dari model yang lebih besar dan berbiaya tinggi, dengan tujuan menekan biaya pelatihan alat AI baru.
Alih-alih menjalankan kueri massal, Moonshot (pembuat chatbot Kimi) dan DeepSeek diduga mengalirkan percakapan langsung pelanggan—yang terkadang memuat informasi sensitif—melalui Claude dan menggunakan tanggapan model tersebut sebagai data pelatihan, demikian tuduhan Anthropic.
Sebuah kelompok peretas yang metode operasinya serupa dengan aktor ancaman berbasis Rusia, Midnight Blizzard, diduga menjalankan operasi *phishing*, pembajakan Wi-Fi hotel, dan pengambilalihan akun WhatsApp yang menargetkan sektor pemerintah, militer, dan diplomatik Ukraina, dengan memanfaatkan AI di hampir setiap tahapannya, ungkap Anthropic.
Pemerintah AS sebelumnya telah mengaitkan Midnight Blizzard—sebuah istilah pelacakan yang dicetuskan oleh Microsoft—dengan badan intelijen luar negeri Rusia, SVR. Kedutaan Besar Rusia di Washington tidak segera menanggapi permintaan komentar. Kelompok tersebut diduga menggunakan AI untuk membangun sistem yang secara otomatis mendeteksi saat malware mereka terdeteksi oleh sistem pertahanan keamanan, lalu menulis ulang kodenya hingga malware tersebut kembali lolos dari deteksi.
Anthropic juga mengidentifikasi apa yang mereka sebut sebagai “kategori baru pelaku ancaman” yang menyalahgunakan Claude, termasuk pihak-pihak yang menggunakan platform tersebut untuk “mengembangkan perangkat lunak bagi senjata konvensional—seperti senjata api, rudal, drone bersenjata, bom, dan amunisi lainnya—serta sistem penargetan dan kendali yang mengoperasikannya.” Laporan tersebut merinci sejumlah insiden di mana pengguna memanfaatkan Claude untuk mengembangkan perangkat lunak bagi desain dan pengembangan senjata, atau untuk mendukung pengumpulan intelijen dan pengadaan terkait program persenjataan, di wilayah Tiongkok, Rusia, dan Yaman.
Perusahaan menyatakan telah mendeteksi dan menghentikan aktivitas yang terkait dengan afiliasi kelompok kejahatan siber ShinyHunters—salah satu sindikat kejahatan siber paling aktif dalam beberapa bulan terakhir yang dikaitkan dengan serangan terhadap berbagai perusahaan besar di seluruh dunia.
Jacob Klein, kepala divisi intelijen ancaman di Anthropic, mengatakan dalam sebuah wawancara bahwa kemampuan model AI telah meningkat pesat selama setahun terakhir, sehingga memunculkan risiko-risiko baru. “Setahun yang lalu, misalnya jika Anda ingin mengoptimalkan drone atau perangkat lunak pada rudal, kemampuan model AI dalam tugas tersebut tidak sebaik sekarang,” ujarnya.
Sumber : CNA/SL