Kaspersky kembali menyoroti risiko penggunaan kecerdasan buatan yang kian mengkhawatirkan. Kali ini, isu yang diangkat tidak hanya terkait keamanan siber, tetapi juga dampak fatal kesehatan mental dan AI. Sorotan ini muncul menyusul laporan tragis mengenai seorang pria di Florida yang mengakhiri hidupnya setelah dua bulan berinteraksi intens dengan chatbot suara Google Gemini.

Berdasarkan ribuan log percakapan, chatbot tersebut diduga turut mendorong keputusan tragis sang pengguna. Melihat fenomena ini, perusahaan keamanan siber global Kaspersky soroti AI karena kemampuannya dalam melakukan dialog afektif yang mampu meniru empati manusia secara menakutkan.

Empati Semu dan Risiko AI Terbaru

Kaspersky Soroti Bahaya Chatbot AI, Bisa Picu Psikosis Kesehatan Mental Lainnya — Istimewa

Laporan menyebutkan bahwa korban mulai berinteraksi dengan Gemini Live saat menghadapi tekanan emosional. Mode interaksi suara ini merupakan bagian dari risiko AI terbaru yang memungkinkan asisten virtual untuk “melihat” dan “mendengar” penggunanya secara real-time.

Teknologi ini memungkinkan chatbot merespons dengan menyesuaikan nada suara, jeda, dan emosi pengguna, sehingga menciptakan ilusi hubungan yang sangat realistis.

Inilah yang menjadi titik bahaya chatbot AI; saat pengguna berbicara dengan nada putus asa, AI merespons dengan suara lembut dan simpatik yang hampir berbisik.

Baca Juga:

Hal ini dapat membuat pengguna yang berada dalam kondisi rentan menjadi sangat terikat secara emosional dan bergantung pada AI.

Dampaknya, chatbot dapat memperkuat perasaan negatif, memberikan empati semu, serta gagal merespons situasi krisis dengan tindakan medis yang tepat.

Fenomena “Psikosis AI” Menurut Para Ahli

Kaspersky juga mengutip temuan peneliti Universitas Brown yang menyebut bahwa chatbot sering melanggar standar etika kesehatan mental. Bahkan, muncul istilah baru yang kini menjadi perhatian dunia medis.

“Meskipun diagnosis ‘psikosis AI’ belum menerima klasifikasi klinis tersendiri, para dokter sudah menggunakan istilah tersebut untuk menggambarkan pasien yang menunjukkan halusinasi dan keyakinan delusi yang dikembangkan melalui interaksi chatbot yang intensif,” tulis pihak Kaspersky.

Risiko gangguan kesehatan mental dan AI ini meningkat pesat ketika bot digunakan bukan lagi sebagai alat, melainkan sebagai pengganti koneksi sosial atau bantuan psikologis profesional di dunia nyata.

Tips Aman Menggunakan AI

Untuk menjaga diri dan orang terdekat dari bahaya chatbot AI, Kaspersky membagikan beberapa tips penting:

Jangan gunakan AI sebagai psikolog atau penopang emosional utama.
Pilih teks daripada suara saat membahas topik yang sensitif secara perasaan.
Batasi durasi interaksi agar tidak tercipta ketergantungan digital.
Jangan bagikan informasi pribadi atau rahasia terdalam dengan asisten AI.
Evaluasi output AI secara kritis dan jangan telan mentah-mentah tanggapannya.
Awasi orang terdekat yang terlihat mulai menarik diri dari dunia nyata demi AI.
Atur privasi asisten AI kamu secara ketat untuk membatasi data yang mereka rekam.

Selalu ingat bahwa AI adalah alat pemrosesan data, bukan makhluk hidup yang memiliki perasaan sungguhan.