Bos DeepMind Usulkan Badan Independen untuk Awasi AI

AKURAT.CO Perkembangan kecerdasan buatan semakin cepat, tetapi kemampuan teknologi yang terus meningkat juga membuat kebutuhan terhadap standar keselamatan semakin mendesak.

Demis Hassabis, CEO Google DeepMind, kini mengusulkan pembentukan badan independen yang dapat membantu menetapkan standar untuk model AI paling canggih atau frontier AI.

Usulan tersebut menawarkan pendekatan berbeda dari regulasi pemerintah secara langsung. Badan yang dibayangkan Hassabis akan berfokus pada aspek teknis, termasuk pengujian model, pengembangan praktik terbaik, serta evaluasi sebelum sistem AI baru dirilis.

Gagasan ini muncul ketika perusahaan AI besar berlomba mengembangkan model dengan kemampuan yang semakin tinggi. Menurut Hassabis, industri membutuhkan mekanisme bersama agar perkembangan teknologi tetap berjalan sekaligus memperhatikan aspek keselamatan.

Hassabis Usulkan Badan Standar Independen

Dilansir TechCrunch, Demis Hassabis mengusulkan sebuah badan independen yang dapat menjadi lembaga teknis untuk mengevaluasi frontier AI. Dalam proposalnya, laboratorium AI frontier nantinya dapat secara sukarela menyerahkan model mereka kepada badan tersebut untuk ditinjau sebelum peluncuran.

Hassabis menjelaskan bahwa model AI dapat diserahkan untuk evaluasi hingga 30 hari sebelum dirilis. Badan tersebut juga dapat mengembangkan praktik terbaik dan menangani kerentanan yang ditemukan setelah model diluncurkan.

Menurut Hassabis, pendekatan tersebut memungkinkan evaluasi keamanan dilakukan dengan fokus teknis tanpa menghilangkan dorongan terhadap inovasi.

Pengujian AI Jadi Fokus Utama

Hassabis juga menjelaskan alasan di balik gagasan tersebut. Ia menilai badan standar semacam ini dapat membantu menciptakan mekanisme pengujian yang lebih konsisten ketika kemampuan frontier AI terus berkembang.

Usulan tersebut menempatkan pengujian teknis sebagai bagian penting sebelum model AI frontier tersedia secara luas. Selain evaluasi sebelum peluncuran, badan tersebut juga diharapkan dapat menangani kerentanan yang ditemukan setelah model dirilis.

Bagi industri AI, gagasan ini muncul di tengah kebutuhan untuk menemukan keseimbangan antara inovasi dan keselamatan. Pengembangan model semakin cepat, sementara kemampuan untuk menguji serta memahami risiko setiap generasi AI juga harus ikut berkembang.