Penguatan Kendali Manusia atas Teknologi AI Memberi Manfaat Besar

RRI.CO.ID, Ambon - Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) membuka peluang semakin luas bagi peningkatan produktivitas, pelayanan publik, ilmu pengetahuan, hingga daya saing ekonomi. Di tengah perkembangan tersebut, penguatan kendali manusia menjadi bagian penting dalam memastikan teknologi memberikan manfaat secara bertanggung jawab.

Analis Kebijakan Independen, Harry Waluyo, mengatakan kemampuan AI kini berkembang dari sekadar memberikan keluaran berdasarkan instruksi menjadi sistem yang mampu merencanakan, mengambil keputusan, menggunakan perangkat, serta menjalankan sejumlah tindakan untuk mencapai tujuan.

Menurutnya, perkembangan tersebut perlu diimbangi dengan tata kelola yang mampu menjaga hubungan antara tujuan manusia dan kemampuan AI untuk bertindak. Hal ini mencakup penetapan batas kewenangan, otorisasi, pengawasan, audit, akuntabilitas, hingga kemampuan untuk mengoreksi atau menghentikan sistem apabila diperlukan.

Harry menjelaskan, semakin besar kemampuan dan dampak sebuah sistem AI, semakin besar pula kebutuhan terhadap akuntabilitas, kendali manusia, kemampuan audit, dan mekanisme koreksi.

Ia menilai, keberadaan manusia dalam proses pengambilan keputusan AI perlu disertai kendali yang nyata. Manusia harus mengetahui apa yang dilakukan AI, memahami alasan dan keterbatasannya, memiliki kewenangan untuk menolak, serta mempunyai kompetensi dan waktu yang memadai untuk melakukan penilaian.

Menurut Harry, pendekatan tersebut dapat mendorong pemanfaatan AI secara lebih aman sekaligus tetap membuka ruang bagi inovasi. Setiap sistem dengan tingkat risiko berbeda dapat diberikan tingkat kewenangan yang berbeda, mulai dari tindakan otomatis untuk dampak rendah hingga keputusan yang tetap membutuhkan otorisasi manusia untuk dampak tinggi dan kritis.

Ia juga mendorong organisasi untuk menetapkan risk owner pada setiap sistem AI yang memiliki konsekuensi penting. Pihak tersebut memiliki tanggung jawab terhadap tujuan, risiko, batas kewenangan, pengawasan, penanganan insiden, hingga penghentian sistem.

Selain itu, kemampuan melakukan audit dan menghentikan sistem berisiko tinggi perlu menjadi bagian dari kesiapan organisasi. Mekanisme tersebut mencakup proses penghentian, isolasi, audit, peninjauan, koreksi, hingga keputusan untuk menjalankan kembali atau menghentikan sistem secara permanen.

Harry menegaskan, kematangan dalam pemanfaatan AI tidak hanya diukur dari banyaknya sistem AI yang digunakan, tetapi juga dari kemampuan manusia dan organisasi dalam mengendalikan konsekuensi penggunaannya.

Dengan tata kelola yang tepat, perkembangan AI menuju 2045 diharapkan tetap menempatkan manusia sebagai pihak yang memiliki kemampuan menentukan tujuan, memahami konsekuensi, mengambil keputusan, melakukan koreksi, dan menghentikan sistem ketika diperlukan.