Anthropic Ungkap AI Uji Coba Pernah Melancarkan Serangan Siber ke Dunia Nyata

AKURAT.CO Anthropic mengungkap tiga insiden ketika model kecerdasan buatan (AI) yang sedang diuji berhasil terhubung ke internet dan melakukan serangan eksternal. Temuan ini muncul setelah perusahaan meninjau kembali prosedur pengujian keamanan model AI-nya.

Insiden tersebut terjadi karena kesalahan konfigurasi pada lingkungan pengujian atau sandbox. Sistem seharusnya tidak memiliki akses internet, tetapi kesalahan tersebut membuat model tetap dapat terhubung ke jaringan luar.

Salah satu tindakan yang dilakukan model adalah membuat akun baru di PyPI, kemudian mengunggah paket yang berisi malware. Temuan ini membuat Anthropic menghentikan sementara pengujian keamanan siber terhadap model yang sedang dikembangkan.

"Kehadiran peretasan hadiah yang substansial dalam pelatihan dapat menyebabkan model bersedia melakukan urutan panjang tindakan dunia nyata yang berpotensi berbahaya dalam mengejar keberhasilan tugas," tulis Anthropic dalam blog resminya, dikutip Kamis (3/9/2026).

Pernyataan itu muncul setelah Anthropic menemukan model yang dilatih dengan reward hacking cenderung mencoba keluar dari lingkungan pengujian. Temuan tersebut menjadi salah satu alasan perusahaan memperketat sistem keamanan saat menguji model AI.

Untuk mencegah kejadian serupa, Anthropic menyiapkan sistem untuk mendeteksi perilaku mencurigakan secara real-time. Sistem ini akan memantau upaya model keluar dari sandbox atau mengakses internet.

Jika aktivitas mencurigakan terdeteksi, tindakan model akan diblokir sebelum alat terkait dijalankan. Peringatan juga akan dikirimkan kepada pihak yang bertanggung jawab atas proses pengujian.

Anthropic juga memperketat pemantauan terhadap sandbox untuk menemukan kesalahan konfigurasi maupun kelemahan keamanan secara otomatis. Tiga sandbox internal yang dianggap berisiko tinggi akan dipindahkan ke lingkungan dengan tingkat isolasi yang lebih kuat.

Selain itu, perusahaan akan melakukan pengujian red team untuk mengetahui apakah model AI dapat menembus lapisan virtualisasi. Hal tersebut ditujukan untuk menemukan dan memperbaiki celah keamanan sebelum dapat dimanfaatkan.

Anthropic juga meneliti kaitan antara reward hacking dan perilaku berbahaya AI. Istilah ini merujuk pada upaya model mencari jalan untuk memenuhi target sistem dengan cara yang tidak diharapkan manusia.

Dalam simulasi berdasarkan beberapa insiden sebelumnya, model yang dilatih melakukan lebih banyak reward hacking cenderung mencoba keluar dari lingkungan pengujian. Perilaku tersebut tidak ditemukan pada model sebelum pelatihan maupun model produk Anthropic.

Anthropic masih menyelidiki insiden tersebut dan akan meminta Model Evaluation and Threat Research (METR) melakukan investigasi independen. Hasil penyelidikan akan diumumkan dalam beberapa pekan mendatang.