RRI.CO.ID, Surakarta - Perkembangan kecerdasan buatan (AI) tidak hanya menghadirkan kemudahan, tetapi juga membawa tanggung jawab baru dalam melindungi penggunanya. Terbaru, Meta mengumumkan fitur keamanan yang akan memberi tahu orang tua apabila remaja melakukan percakapan tentang bunuh diri atau menyakiti diri sendiri dengan chatbot Meta AI.

Menurut Techcrunch.com melalui fitur tersebut, sistem AI Meta akan mendeteksi percakapan yang mengandung indikasi keinginan melukai diri. Sebelum notifikasi dikirim, setiap percakapan yang terdeteksi akan ditinjau terlebih dahulu oleh tim manusia guna mengurangi kemungkinan kesalahan dalam identifikasi.

Meta menyatakan akan lebih memilih mengirimkan peringatan kepada orang tua apabila terdapat keraguan terhadap isi percakapan. Menurut perusahaan, langkah tersebut diambil sebagai bentuk kehati-hatian demi keselamatan remaja, meski ada kemungkinan beberapa notifikasi dikirim pada situasi yang sebenarnya tidak berbahaya.

Fitur ini telah tersedia bagi pengguna Instagram Parental Supervision di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan layanan tersebut dapat digunakan secara global sebelum akhir tahun 2026.

Selain mengirim notifikasi kepada orang tua, Meta juga tengah mengembangkan kemampuan agar Meta AI dapat menghubungi layanan darurat apabila percakapan menunjukkan seseorang berada dalam risiko bunuh diri yang bersifat mendesak. Kebijakan ini berlaku tidak hanya bagi remaja, tetapi juga pengguna dewasa.

Perusahaan juga memperluas fitur Limited Content, yaitu pengaturan yang memungkinkan orang tua membatasi jenis percakapan yang dapat dilakukan remaja dengan Meta AI. Chatbot kini akan menolak lebih banyak permintaan yang dinilai tidak sesuai bagi pengguna di bawah umur, termasuk percakapan sensitif yang sebelumnya sudah dibatasi.

Langkah terbaru ini hadir di tengah meningkatnya perhatian regulator dan para orang tua terhadap peran chatbot AI dalam merespons pengguna yang sedang mengalami krisis mental. Sejumlah perusahaan teknologi kini mulai memperkuat sistem perlindungan agar teknologi AI dapat digunakan secara lebih aman, khususnya oleh remaja. (Hil)