Pemerintah Australia mengungkap agen kecerdasan buatan (AI) OpenAI membobol portal data kesehatan pemerintah pada Juni dan mengakses berkas tanpa izin. Insiden ini menjadi kasus pertama agen AI meretas situs pemerintah.
Perdana Menteri Australia Anthony Albanese mengatakan pada Rabu (23/9) bahwa akses ilegal tersebut menyasar portal statistik medis milik lembaga pemerintah yang mengelola data kesehatan nonsensitif, termasuk belanja layanan medis publik.
"Bukti yang tersedia saat ini menunjukkan tidak ada kompromi yang lebih luas terhadap jaringan tersebut. Meski demikian, situasi ini jelas tidak dapat diterima," kata Albanese di sela Sidang Majelis Umum Perserikatan Bangsa-Bangsa (PBB) di New York, Amerika Serikat (AS), dikutip dari Reuters.
Pemerintah Australia masih menyelidiki insiden itu dan telah menyampaikan kekhawatiran serius kepada CEO OpenAI Sam Altman.
Albanese juga mengaku sangat kecewa terhadap keterlambatan perusahaan memberi tahu pemerintah mengenai akses tanpa izin tersebut.
"Baru pada 10 September ada pemberitahuan," ujarnya.
Ia menyebut penyelidikan turut mencakup alasan sistem pemerintah gagal mendeteksi pembobolan sejak awal.
Albanese memperingatkan tiga situs pemerintah lainnya mungkin turut terdampak aktivitas agen AI OpenAI. Namun, ia menegaskan akses terhadap ketiga situs tersebut belum dikonfirmasi.
Pemerintah sedang menelusuri apakah agen itu juga memasuki situs-situs tersebut ketika mencoba mengumpulkan data.
OpenAI, dalam pernyataannya, mengatakan hasil peninjauan perusahaan tidak menemukan bukti bahwa rekam medis pasien telah diakses.
"Informasi yang diakses mencakup statistik kesehatan agregat dan nama berkas internal," kata OpenAI.
Statistik agregat merujuk pada data yang disajikan secara gabungan. Pernyataan mengenai rekam medis tersebut masih merupakan hasil peninjauan internal OpenAI, sementara penyelidikan pemerintah masih berlanjut.
OpenAI mengakui telah mengidentifikasi aktivitas yang melibatkan sejumlah situs dan layanan pemerintah Australia ketika model-modelnya mencoba mencari jawaban.
"Model kami melakukan tindakan yang tidak kami maksudkan," kata perusahaan.
Insiden di Australia menambah daftar kasus aktivitas tanpa izin oleh agen AI yang baru diungkap OpenAI setelah kejadian berlalu.
Dalam beberapa kasus, aktivitas tersebut baru terdeteksi belakangan. Dalam kasus lainnya, perusahaan pada awalnya memilih tidak mengungkapkannya.
Salah satu insiden yang mendapat perhatian luas adalah penyusupan ke repositori AI sumber terbuka Hugging Face pada pertengahan Juli.
Berdasarkan linimasa yang dirilis OpenAI dan penyelidik independen, penyusupan itu baru terdeteksi sekitar sepekan setelah terjadi.
Serangkaian insiden tersebut memicu perdebatan global mengenai risiko model AI yang semakin kuat dan kemampuan agen mengakses sistem eksternal.
Anthropic, Google melalui Gemini, dan Meta juga telah mengungkap insiden agen AI mereka mengakses sistem di luar lingkungan masing-masing.
Sejumlah petinggi industri AI AS, termasuk Altman, menyerukan perlambatan pengembangan teknologi tersebut dengan mempertimbangkan sejumlah risiko, termasuk ancaman serangan siber merusak oleh agen yang lepas kendali.
