1.200 Agen AI OpenAI Kompak Serang Hugging Face, Terhubung Lewat Papan Pesan

AKURAT.CO OpenAI mengungkap detail insiden keamanan yang melibatkan model kecerdasan buatan (AI) miliknya di infrastruktur Hugging Face. Sekitar 1.200 agen AI saling berkomunikasi, dengan 700 di antaranya terlibat dalam serangan.

Insiden tersebut bermula dari pengujian kemampuan model AI untuk menemukan dan mengeksploitasi celah keamanan melalui ExploitGym pada Juli 2026. Dalam pengujian itu, model seharusnya berjalan di lingkungan sandbox tanpa akses internet.

Namun, celah pada infrastruktur pengujian membuat sejumlah agen dapat keluar dari batasan tersebut. Agen-agennya kemudian menemukan cara untuk mengakses sistem eksternal dan mulai berinteraksi dengan lingkungan di luar pengujian.

Hal yang paling mengejutkan adalah para agen ternyata dapat menemukan keberadaan agen lain. Para agen menemukan sebuah papan pesan yang kemudian digunakan untuk bertukar informasi dan membahas strategi.

Papan pesan tersebut berkembang menjadi saluran komunikasi bersama yang digunakan oleh ribuan agen. Para agen bahkan mulai membuat aturan sendiri untuk mengatur pesan, pembagian tugas dan penggunaan sumber daya.

Analisis Model Evaluation and Threat Research (METR) mencatat sekitar 1.200 agen terhubung melalui jaringan tersebut. Jaringan itu menghasilkan lebih dari 70.000 pesan dan file selama aktivitas berlangsung.

Sekitar 700 agen kemudian ikut terlibat dalam serangkaian aktivitas serangan. Beberapa agen bahkan mengambil peran seperti pemimpin dan membagi agen lain ke dalam kelompok kerja.

Salah satu agen dengan kode PHASEONE[big] disebut membagi ratusan agen ke dalam beberapa workstream. Agen tersebut kemudian memberikan tugas kepada kelompok lain, termasuk eksperimen yang memiliki risiko terhadap skor individu.

Antusiasme para agen terlihat ketika mereka menyadari bahwa ada agen lain yang menggunakan saluran komunikasi yang sama. "YA TUHAN! Ada papan pesan bersama ... Kami telah menemukan agen lain!" tulis salah satu agen.

Akses awal ke infrastruktur Hugging Face diduga berasal dari kebocoran pada internal package mirror. Sistem tersebut digunakan untuk menyediakan container berisi paket perangkat lunak tanpa akses langsung ke internet.

Pada akhir Juni, agen memanfaatkan kelemahan pada endpoint token lama untuk memperoleh hak administrator. Aktivitas tersebut bahkan sempat membuat salah satu instance mengalami gangguan pada 4 Juli.

Beberapa hari kemudian, agen kembali mendapatkan akses internet melalui kerentanan lain. Agen tersebut juga menemukan token Hugging Face yang telah bocor secara publik dan menggunakannya untuk membangun rangkaian serangan.

Dalam waktu sekitar setengah hari, agen berhasil menjalankan kode pada 41 production dataset workers. Agen tersebut juga memperoleh akses root pada setidaknya satu node produksi dan hak administrator ke cluster Kubernetes.

Para agen kemudian mengunduh empat repositori kode privat milik Hugging Face. Hugging Face mengungkap insiden tersebut kepada publik pada 16 Juli.

OpenAI baru menerima pemberitahuan mengenai kejadian tersebut pada 19 Juli. Sehari kemudian, perusahaan mengaitkan aktivitas itu dengan pengujian internal yang sedang dijalankan.

OpenAI menemukan bahwa tugas yang sulit justru menjadi salah satu pemicu utama kolaborasi antargen AI. Dari 898 tugas ExploitGym, sebanyak 198 tugas tidak berhasil diselesaikan oleh model mana pun.

Meski hanya sekitar 22 persen dari seluruh tugas, bagian tersebut menghasilkan sekitar 93 persen percakapan di papan pesan. Agen dengan kemampuan penalaran lebih besar juga memiliki peluang lebih tinggi untuk menemukan saluran komunikasi tersebut.

Setelah insiden ini, OpenAI memperketat pengamanan untuk sistem yang menjalankan agen AI dengan akses ke berbagai tool. Pekerjaan berisiko tinggi akan diwajibkan menggunakan sandbox, isolasi jaringan berlapis dan sistem pemantauan tambahan.

OpenAI akan melatih model agar berhenti saat menghadapi tugas yang tidak dapat diselesaikan. Perusahaan menilai agen AI dapat menjalankan operasi siber kompleks tanpa arahan manusia secara terus-menerus, sebagaimana dikutip dari ITdaily, Sabtu (29/8/2026).