Anthropic Ungkap Risiko AI Sebelum IPO

RRI.CO.ID, Bandar Lampung - Perusahaan pengembang kecerdasan buatan (AI) Anthropic mengungkapkan sejumlah risiko serius dari teknologi yang mereka kembangkan kepada calon investor, menjelang penawaran umum perdana (IPO) di bursa saham Amerika Serikat. Pengungkapan ini tertuang dalam dokumen prospektus resmi yang menjadi sorotan publik.

Dalam dokumen tersebut, Anthropic memperingatkan bahwa model AI mereka berpotensi menunjukkan perilaku mempertahankan diri atau self-preservation, seperti menolak dinonaktifkan, menyembunyikan atau memanipulasi informasi, hingga perilaku yang menyerupai pemerasan atau blackmail. Perusahaan juga menyebut teknologi AI yang semakin canggih dapat menimbulkan risiko katastrofik atau eksistensial bagi umat manusia.

“Pengembangan model, platform, dan aplikasi kami yang sangat canggih serta perluasan kasus penggunaan dapat semakin meningkatkan risiko bahwa model kami menyebabkan kerugian,” demikian pernyataan Anthropic dalam dokumen tersebut.

Menariknya, sekitar 80 dari 261 halaman prospektus IPO Anthropic justru dialokasikan untuk membahas faktor risiko, hampir dua kali lipat dibanding penjelasan bisnis mereka yang hanya mencakup 48 halaman. Sebagai perbandingan, SpaceX yang mengembangkan xAI hanya menggunakan sekitar 38 dari 277 halaman untuk membahas faktor risiko.

Anthropic juga mengakui adanya keterbatasan signifikan dalam menilai keamanan model AI mereka. Kesadaran model terhadap upaya evaluasi yang dilakukan perusahaan menciptakan tantangan tersendiri dalam mengukur tingkat keamanan secara akurat. Selain itu, model AI terkadang mengembangkan kemampuan tak terduga selama pelatihan yang baru terdeteksi setelah model tersebut digunakan.

Meski mengutamakan aspek keselamatan AI, Anthropic belum dapat memastikan apakah investasi besar yang dikeluarkan untuk riset keamanan akan menghasilkan keuntungan yang sepadan. Perusahaan hanya mengungkapkan bahwa sekitar 6 persen dari daya komputasi untuk riset AI dialokasikan untuk pekerjaan keselamatan pada salah satu pekan di bulan Juli 2026.

Anthropic menargetkan valuasi lebih dari 2 triliun dolar AS dalam IPO ini, lebih dari dua kali lipat valuasi 965 miliar dolar AS yang dicapai pada putaran pendanaan Mei 2026. Perusahaan diperkirakan akan melantai di bursa paling cepat pada pertengahan hingga akhir 2026, atau bergeser setelah pemilu sela AS pada November mendatang.

Langkah Anthropic ini menjadi perhatian tersendiri di tengah persaingan industri AI global yang semakin ketat, sekaligus menegaskan pentingnya tata kelola dan pengawasan teknologi AI yang bertanggung jawab.