Waspadai Penyalahgunaan AI, Pengawasan Teknologi Dinilai Perlu Diperketat

RRI.CO.ID, Jakarta - Direktur School of Computer Science (SoCS) Nusa Putra University, Teddy Mantoro, menyoroti meningkatnya risiko penyalahgunaan kecerdasan buatan (AI). Ia menyebut, sejumlah kasus peretasan dan penyalahgunaan AI menunjukkan ancaman tersebut perlu mendapat perhatian serius dari berbagai pihak.

Ia mencontohkan kasus yang melibatkan perusahaan teknologi Anthropic, yang pernah menghadapi persoalan pemerintah dan intelijen Amerika Serikat. Menurutnya, berbagai kejadian tersebut memperlihatkan bahwa kemampuan AI dapat menimbulkan risiko besar apabila pengembangannya tidak disertai pengawasan memadai.

"Kasus seperti ini banyak terjadi, termasuk yang melibatkan Anthropic dan lembaga pemerintah di dunia intelijen Amerika Serikat," ucapnya dalam wawancara bersama PRO3 RRI, Minggu, 4 Oktober 2026. Ia menegaskan, pemerintah perlu mengambil langkah serius agar perkembangan teknologi AI tidak membuka celah penyalahgunaan yang membahayakan masyarakat.

Ia menjelaskan, setiap model bahasa besar atau Large Language Model (LLM) memiliki pola kerja dan sistem pengamanan yang berbeda-beda. Sebagian model menerapkan pembatasan ketat terhadap konten sensitif, seperti kekerasan seksual, terorisme, hingga informasi yang membahayakan keamanan publik.

Ia menilai, perbedaan sistem penyaringan membuat tingkat keamanan setiap model AI tidak selalu sama dalam menghadapi permintaan berisiko. Bahkan, peluang munculnya kesalahan logika atau respons menyimpang masih cukup besar meskipun pengembang telah menerapkan berbagai mekanisme pengamanan.

"Potensi AI masuk ke dalam logika yang keliru masih sangat besar hingga saat ini, sehingga pengawasan tidak boleh diabaikan," ujarnya. Ia mengingatkan, kelemahan tersebut perlu diantisipasi sejak tahap pengembangan agar teknologi tidak dimanfaatkan untuk tujuan yang merugikan manusia.

Terkait kemungkinan AI mengendalikan senjata pemusnah massal, ia menilai kekhawatiran tersebut bukan sekadar gambaran fiksi ilmiah. Ia menyebut, kemampuan AI menghasilkan informasi terkait pengembangan senjata kimia telah terlihat dalam sejumlah eksperimen beberapa tahun terakhir.

"Hal tersebut sangat mungkin terjadi, karena tiga tahun lalu AI sudah mampu menghasilkan algoritma terkait senjata kimia dalam waktu singkat," ujarnya. Ia mengungkapkan, sebuah eksperimen bahkan dapat menghasilkan sekitar 400 algoritma hanya dalam satu jam, sehingga pengawasan terhadap teknologi ini semakin mendesak.