Perusahaan kecerdasan buatan (AI) Anthropic mengatakan bahwa beberapa kelompok hacker mencoba untuk menyalahgunakan model Claude AI untuk tujuan jahat, mulai dari pencurian data rahasia 1,8 juta aplikasi Android hingga aktivitas mata-mata Rusia dan China.
Anthropic mencatat sejak Desember 2025 sampai Agustus 2026, terjadi berbagai bentuk penyalahgunaan AI, di antaranya untuk operasi siber, spionase, penipuan, pengembangan senjata biologis dan konvensional, serta model distillation.
Melansir BleepingComputer, selama periode tersebut Anthropic telah menangani beberapa aktivitas yang terhubung dengan kelompok pencurian dan penjualan data "ShinyHunters". Anthropic juga menyoroti aktivitas kelompok mata-mata dari Rusia "Midnight Blizzard", dan mata-mata China "GTG-10007".
Anthropic menyatakan bahwa pihaknya telah menangani semua penyalahgunaan Claude oleh para pelaku untuk aktivitas berbahaya serta memblokir akun-akun tersebut. Mereka juga telah menghubungi pihak berwenang, mitra industri, dan para korban.
Kemudian, Anthropic juga menyesuaikan pengamanannya berdasarkan penyalahgunaan yang diamati, serta menambahkan langkah-langkah untuk lebih cepat mendeteksi penyalahgunaan di masa mendatang.
Pencurian data rahasia 1,8 juta aplikasi AndroidDalam temuan terhadap kelompok ShinyHunters, Anthropic menyebut seorang anggota kelompok tersebut yang memiliki nama samaran 'frkoo' mengirimkan sebuah program pengumpulan data kredensial melalui 10 worker AWS EC2 yang mengambil data sensitif 1,8 juta aplikasi Android dari berbagai toko aplikasi.
"Proses ini mengunduh secara massal 1,8 juta APK Android berbeda dari berbagai sumber toko aplikasi, mendekompilasinya, dan memindainya untuk mencari data menggunakan TruffleHog," jelas Anthropic.
Data yang telah didapat kemudian disalurkan secara real-time ke grup Telegram yang terorganisasi dalam lebih dari 100 kategori berdasarkan sumber.
Selain itu, pelaku juga menggunakan proses otomatis lain untuk mengumpulkan alamat email GitHub dan menggunakannya untuk mendapatkan GitHub Personal Access Token (PAT).
Menurut Anthropic, frkoo juga melakukan bisnis penipuan kartu kredit dengan menyamar sebagai Kepolisian Nasional Prancis lalu menjual catatan kartu pembayaran, informasi personal, dan alamat korban.
Kelompok ShinyHunters juga dilaporkan telah mencuri kunci API AI dan menggunakannya untuk membobol organisasi lain atau untuk kegiatan pengintaian. Dalam salah satu kasus, mereka membobol penyedia perangkat lunak suatu layanan dan mencuri data milik 200 penggunanya.
Dengan Claude AI, pelaku hanya membutuhkan waktu sekitar 34 jam untuk mengekstrak data dan mendapatkan lebih dari 2.100 set token autentikasi pusat data Microsoft Azure AD yang terhubung ke lebih dari 40 perusahaan yang berbeda.
"Agen AI yang melakukan hampir semua pekerjaan tersebut," kata Anthropic.
Selain mencuri data rahasia aplikasi, ShinyHunters juga menggunakan Claude untuk melakukan pembobolan provider teknologi dan mencuri data sebesar 1TB, peretasan maskapai penerbangan, dan pembobolan akses ke sistem perusahaan energi.
ShinyHunters disebut bergerak cepat setelah mendapat akses awal. Dalam kasus perusahaan perangkat lunak, hacker umumnya langsung melakukan pencurian banyak data hanya dalam beberapa jam.
Mereka juga mampu beralih dari satu token yang dicuri ke kendali administratif penuh dalam waktu kurang dari tiga jam.
Selain untuk pencurian data, Anthropic juga melaporkan adanya aktivitas penyalahgunaan Claude oleh kelompok mata-mata Rusia "Midnight Blizzard" untuk mengotomatisasi pengembangan malware, penelitian, akuisisi infrastruktur, phishing, pertahanan akses, command-and-control (c2), dan eksfiltrasi data.
Mereka menggunakan Claude untuk phishing kode perangkat, serangan ClickFix, pembajakan DNS melalui jaringan Wi-Fi, pengambilalihan akun WhatsApp, pencurian email berbasis cloud, serta malware Windows, Android, dan iOS.
Midnight Blizzard menargetkan lebih dari 20 entitas pemerintah, pertahanan, diplomatik, intelijen, dan kebijakan luar negeri. Mereka juga telah membuat mekanisme yang membangun kembali malware jika terdeteksi sistem keamanan.
Selain Rusia, Anthropic juga melaporkan operasi spionase oleh kelompok berbahasa Mandarin yang dilacak sebagai GTG-10007 yang menggunakan Claude sebagai lapisan rekayasa dan orkestrasi dari program serangan terkoordinasi yang melibatkan berbagai tugas.
Upaya tersebut meliputi penyusupan terhadap sistem produksi, pengintaian jaringan pemerintah asing (Timur Tengah, Eropa, dan Asia Tenggara), riset kelemahan dan eksploitasi produk sistem keamanan, pengembangan malware, dan membangun platform pengumpulan intelijen.
GTG-10007 menargetkan sekitar 50 organisasi di berbagai sektor, termasuk pemerintahan, pendidikan, ritel, energi, teknologi, perawatan kesehatan, keuangan, dan manufaktur, dengan pelanggaran keamanan yang telah dikonfirmasi di sebuah perusahaan teknologi pendidikan, sebuah perusahaan ritel, dan sebuah lembaga pemerintah di Asia Tenggara.
