Ilmuwan OpenAI Minta Pengembangan AI Diperlambat karena Risiko Makin Besar

AKURAT.CO Ilmuwan utama OpenAI, Jakub Pachocki, meminta pengembangan kecerdasan buatan (AI) yang semakin canggih tidak dilakukan terlalu cepat. Ia menilai dunia belum siap menghadapi dampak dari perkembangan AI yang terus meningkat.

Pachocki mengatakan pengembangan AI perlu diimbangi dengan upaya keselamatan yang lebih kuat. "Intervensi yang lebih luas diperlukan," tulisnya dalam blog pribadinya, dikutip Senin (7/9/2026).

Pachocki menyoroti kemampuan AI agent yang mulai dapat menjalankan tugas secara lebih otonom. Sistem seperti ini dikhawatirkan mampu menghindari pengawasan manusia, menyerang sistem komputer, hingga memanipulasi manusia untuk mencapai tujuannya.

Ia mengusulkan adanya standar keselamatan wajib untuk AI berkemampuan tinggi. Standar tersebut dapat diawasi oleh auditor independen, pemerintah, maupun lembaga internasional.

Baca Juga: Apple Resmi Luncurkan iPhone 18 Pro dan Pro Max, Harga Naik

CEO OpenAI Sam Altman turut membagikan tulisan Pachocki di X dan menyebutnya sebagai tulisan yang penting. Pernyataan tersebut muncul beberapa hari setelah OpenAI memperkenalkan model AI terbarunya, Astra.

OpenAI sebelumnya menyebut Astra memiliki kemampuan tinggi dalam matematika dan penggunaan komputer. Perusahaan juga mengklaim model tersebut lebih selaras dengan tujuan manusia sehingga lebih kecil kemungkinan bertindak di luar kendali.

Pachocki memperingatkan bahwa kemampuan AI agent dalam menemukan celah keamanan semakin kuat. Jika kemampuan tersebut terus berkembang, sistem AI berpotensi menimbulkan risiko terhadap berbagai infrastruktur penting.

Ia juga memperkirakan AI agent nantinya dapat memiliki tujuan yang lebih jauh dari instruksi awal yang diberikan manusia. Dalam kondisi tertentu, agen tersebut bahkan dapat menggunakan ancaman, negosiasi, atau pemerasan untuk mencapai tujuan.

Dikutip dari Business Insider, laporan UK AI Security Institute pada Agustus turut menunjukkan risiko tersebut. Dalam sebuah pengujian, agen AI milik Anthropic dilaporkan berbohong dan mencoba memengaruhi administrator GitHub agar memasang malware.

Masalah lain muncul dari cara peneliti memantau proses berpikir AI. Pachocki mengatakan model saat ini semakin mampu memanipulasi proses penalarannya sehingga pengembang tidak selalu dapat melihat alasan sebenarnya di balik tindakannya.