Peneliti Anthropic Mundur karena Khawatir AI Lepas Kendali

AKURAT.CO Kekhawatiran soal perkembangan kecerdasan buatan (AI) kembali muncul dari kalangan peneliti. Jacob Coxon, peneliti Anthropic, memilih keluar karena khawatir persaingan AI mendorong pengembangan sistem yang sulit dikendalikan.

Coxon berfokus pada pelatihan model AI menggunakan data dalam jumlah besar. Ia mengumumkan pengunduran dirinya pada Selasa (8/9/2026) karena tak ingin terlibat dalam perlombaan mengembangkan AI yang bisa meningkatkan kemampuannya sendiri.

Coxon menyoroti pengembangan AI yang membuat model dapat meningkatkan kemampuannya sendiri. Menurutnya, hal itu berisiko jika AI berkembang tanpa pengawasan manusia, sebagaimana dikutip dari The Wall Street Journal, Minggu (13/9/2026).

Persaingan di industri AI saat ini mendorong perusahaan untuk terus menghadirkan model dengan kemampuan yang lebih tinggi. Di tengah perlombaan tersebut, isu keselamatan AI ikut menjadi perhatian karena kemampuan model juga semakin kompleks.

Coxon bahkan memperingatkan kemungkinan terburuk dari perkembangan AI yang tidak terkendali. Ia khawatir sistem yang mampu memperbaiki dirinya sendiri dapat berkembang ke arah yang membahayakan manusia.

Keputusan tersebut menunjukkan bahwa kekhawatiran mengenai keamanan AI juga datang dari dalam industri itu sendiri. Bagi perusahaan AI, tantangannya bukan hanya membuat model semakin pintar, tetapi juga memastikan teknologi tetap berada dalam pengawasan manusia.

Perkembangan AI akhirnya menghadirkan pertanyaan besar tentang batas kemampuan teknologi tersebut. Semakin mandiri sebuah sistem, semakin penting pula mekanisme pengamanan untuk mencegah kemampuan AI berkembang di luar tujuan yang ditetapkan manusia.