RRI.CO.ID, San Fransisco - Dario Amodei, CEO dan pendiri Anthropic, baru saja membuat pengakuan mengejutkan: industri kecerdasan buatan (AI) selama ini terlalu lama menutupi fakta bahwa teknologi ini membawa risiko nyata bagi publik. Pernyataan persnya pada Senin 14 September 2026 muncul di tengah kekhawatiran global terhadap superintelligence, yaitu sistem AI yang mampu memperbaiki diri sendiri tanpa campur tangan manusia.
Amodei mengaku dirinya pun tidak sepenuhnya siap menghadapi laju kemajuan AI yang ternyata jauh lebih cepat dari perkiraan. Kurva perkembangan yang makin curam ini membuat ruang untuk menguji dan mengoreksi kesalahan sebelum dampaknya terlanjur besar menjadi semakin sempit.
Selain itu, dilansir dari reuter dan atlantic, Jacob Coxon, mantan peneliti Anthropic, memperingatkan bahwa AI yang mampu terus meningkatkan kemampuannya sendiri berpotensi membuat manusia kehilangan kendali atas arah perkembangan teknologi ini. Amodei mendukung evaluator independen dan mekanisme darurat seperti kill switch, namun dia sendiri mengakui langkah itu belum cukup mengimbangi kecepatan pengembangan teknologi yang terus melaju.
Amerika Serikat kini menghadapi pilihan sulit: memperlambat laju AI berisiko membuat negara otoriter seperti Tiongkok terus maju tanpa batasan keamanan yang sama. Insentif ini justru mendorong percepatan, sehingga menciptakan dilema seperti “tahanan” dalam teori permainan, di mana semua pihak takut tertinggal jika berhenti sejenak.
Amodei mengaku tidak nyaman karena teknologi sepenting ini dikembangkan oleh perusahaan swasta, namun dia juga skeptis jika kendali diserahkan ke satu pemerintah saja karena berisiko disalahgunakan. Meski begitu, Amodei menegaskan hal ini bukan alasan untuk panik atau menghentikan pengembangan AI sepenuhnya.
Menurut Amodei, yang dibutuhkan adalah memastikan setiap generasi model baru diuji secara ketat sebelum dirilis ke publik, sejalan dengan esai yang dia tulis dan terbitkan. Sebagai langkah konkret, Anthropic berencana memberikan akses permanen setara karyawan kepada evaluator independen untuk memeriksa model-model mereka.
“Setiap kali ada pihak yang mengembangkan model AI, selalu ada pihak ketiga yang bertugas mengevaluasi dan memverifikasi apakah perusahaan tersebut mematuhi praktik keselamatan yang telah mereka janjikan, hal ini mirip dengan peran inspektur makanan,” tutur Amodei.
Amodei menegaskan bahwa masa depan AI sangat bergantung pada cara pengembangannya dilakukan sekarang. Jika dibangun dengan benar, risiko bencana besar bisa ditekan serendah mungkin, namun jika salah langkah, potensi bahaya yang muncul justru bisa jadi sangat besar.
Rekomendasi Berita
Memuat berita terbaru.....