PBB Peringatkan AI Bisa Ancam Eksistensi Manusia, Desak Aturan Ketat

RRI.CO.ID, Batam - Komisioner Tinggi Perserikatan Bangsa-Bangsa (PBB) untuk Hak Asasi Manusia Volker Turk memperingatkan bahwa perkembangan kecerdasan buatan atau artificial intelligence (AI) berpotensi menimbulkan risiko serius terhadap umat manusia. Dalam pidatonya di Dewan HAM PBB di Jenewa, Senin 7 September 2026, Turk menyerukan upaya menyeluruh untuk memastikan teknologi AI dikembangkan dengan jaminan keselamatan dan keamanan yang kuat.

Turk mengatakan kekhawatiran mengenai AI tidak lagi hanya berkaitan dengan dampak teknologi terhadap pekerjaan, privasi, atau penyebaran informasi. Menurut dia, AI yang semakin maju berpotensi mencapai tingkat kemampuan yang dapat menimbulkan ancaman terhadap keberlangsungan manusia apabila tidak dikendalikan dengan mekanisme pengamanan yang memadai.

"Saya menyerukan upaya habis-habisan untuk menerapkan jaminan kuat terkait keselamatan dan keamanan AI sebelum semuanya terlambat," ujar Turk dalam pernyataannya di hadapan Dewan HAM PBB. Ia juga menyatakan akan mendorong perusahaan-perusahaan AI dalam beberapa hari mendatang untuk mengambil langkah lebih jauh dalam mengurangi berbagai risiko yang ditimbulkan teknologi tersebut.

Turk turut menyoroti konsentrasi kekuatan teknologi AI yang berada di tangan sejumlah perusahaan dan pengambil keputusan. Karena itu, ia mendorong negara-negara yang menjadi basis pengembangan AI maupun negara yang terlibat dalam rantai pasok teknologi tersebut untuk menyepakati batasan atau garis merah bersama. Langkah tersebut dinilai penting agar perkembangan AI tidak hanya ditentukan oleh kepentingan segelintir perusahaan atau kelompok.

Seruan tersebut sejalan dengan meningkatnya perhatian internasional terhadap tata kelola AI. Pada 6–7 Juli 2026, PBB menggelar Global Dialogue on AI Governance pertama di Jenewa yang mempertemukan 193 negara bersama perusahaan teknologi, akademisi, masyarakat sipil, dan komunitas teknis. Forum tersebut membahas berbagai aspek AI, termasuk keamanan, kepercayaan, hak asasi manusia, transparansi, akuntabilitas, serta pengawasan manusia.

Sekretaris Jenderal PBB António Guterres sebelumnya menegaskan bahwa perkembangan AI berlangsung sangat cepat dan telah memengaruhi perekonomian, dunia kerja, keamanan, hingga kehidupan sosial. Ia menilai tidak ada satu negara yang dapat menangani peluang dan risiko AI sendirian sehingga diperlukan kerja sama internasional untuk memastikan teknologi tersebut berkembang secara aman, adil, dan bermanfaat bagi seluruh umat manusia.

Kekhawatiran mengenai risiko ekstrem AI juga pernah disampaikan oleh sejumlah tokoh industri teknologi. CEO OpenAI Sam Altman, misalnya, mengakui bahwa perkembangan AI membawa potensi manfaat besar sekaligus risiko apabila kekuatan teknologi tersebut terkonsentrasi pada segelintir pihak. Dalam pandangan OpenAI, masa depan AI perlu diarahkan agar manfaat dan kemampuan teknologi tidak hanya berada di tangan sejumlah kecil perusahaan.

PBB kini mendorong pendekatan tata kelola yang melibatkan seluruh negara dan pemangku kepentingan. Global Dialogue on AI Governance dijadwalkan menjadi proses berkelanjutan, dengan pertemuan berikutnya berlangsung di New York pada 3–4 Mei 2027. Upaya tersebut diharapkan dapat mempersempit kesenjangan antara perkembangan kemampuan AI yang sangat cepat dan regulasi yang masih terus dibangun.

Peringatan Turk menjadi pengingat bahwa kemajuan AI perlu berjalan beriringan dengan tanggung jawab, transparansi, dan perlindungan hak asasi manusia. Di tengah semakin luasnya pemanfaatan AI dalam berbagai sektor, aturan keselamatan yang kuat dan kerja sama lintas negara menjadi semakin penting agar teknologi tersebut dapat memberikan manfaat bagi masyarakat tanpa menciptakan risiko yang tidak dapat dikendalikan.