Pakar AI Soroti Bahaya Autonomous Learning, Redesign Jadi Solusi

RRI.CO.ID, Jakarta - Direktur School of Computer Science (SoCS) Nusa Putra University, Teddy Mantoro, menyoroti risiko pengembangan kecerdasan buatan (AI). Menurutnya, kemampuan autonomous learning atau pembelajaran mandiri pada AI berpotensi menimbulkan dampak negatif jika tidak dirancang dan diawasi secara tepat.

Ia menjelaskan, kesalahan dalam proses pembelajaran mandiri AI perlu dideteksi sejak awal agar tidak berkembang menjadi masalah lebih besar. Ia menilai, pengembang harus mampu mengidentifikasi sumber kesalahan, menghentikan proses yang bermasalah, kemudian merancang ulang sistem agar lebih aman.

"Autonomous learning sangat berbahaya kalau dibiarkan begitu saja, karena kondisi tersebut menunjukkan adanya kesalahan dalam desain sistem kecerdasan buatan," ucapnya dalam wawancara bersama PRO3 RRI, Minggu, 4 Oktober 2026. Ia menegaskan, setiap kesalahan yang muncul selama proses pembelajaran harus segera ditemukan, dihentikan, dan diperbaiki melalui perancangan ulang.

Menurutnya, perancangan ulang AI sebenarnya memiliki banyak alternatif, salah satunya pendekatan Joint Embedding Predictive Architecture (JEPA). Teknologi tersebut dinilai berpotensi menjadi generasi berikutnya dari agentic AI yang menawarkan pendekatan berbeda dalam membangun kemampuan kecerdasan buatan.

Ia menyebut, proses perancangan ulang tidak bisa dilakukan hanya oleh satu atau dua orang, melainkan membutuhkan kolaborasi para ahli. Bahkan, diperlukan sekitar 100 doktor dengan latar belakang matematika yang bekerja secara terarah untuk menghasilkan model AI lebih aman.

"Redesign AI membutuhkan banyak ahli, bahkan bisa melibatkan 100 doktor berlatar belakang matematika yang bekerja secara terarah," ujarnya. Ia menambahkan, tim tersebut perlu dipimpin seseorang yang mampu memastikan pengembangan model tetap berada dalam batasan dan tujuan yang telah ditentukan.

Kekhawatiran terhadap perkembangan AI, lanjut Teddy, sebenarnya telah diprediksi sejumlah tokoh sejak awal kemunculan teknologi tersebut. Ia mencontohkan Yann LeCun, salah satu pionir AI, yang meninggalkan Meta dengan salah satu latar belakang kekhawatiran terhadap arah pengembangan kecerdasan buatan.

"Prediksi mengenai risiko ini sudah disampaikan banyak tokoh AI, termasuk Yann LeCun yang mengembangkan pendekatan berbeda melalui JEPA," katanya. Ia menjelaskan, pendekatan tersebut tidak hanya berfokus pada model bahasa, tetapi juga mengutamakan pemahaman terhadap dunia sebagai dasar pengembangan AI.

Ia turut menyinggung fenomena noise atau gangguan dalam sistem AI yang dapat memicu munculnya halusinasi pada hasil pemrosesan. Namun, ia mengingatkan bahwa dalam pengembangan teknologi kecerdasan buatan, noise juga dapat menjadi titik awal untuk menghasilkan gambaran yang lebih nyata dan tajam.