Induk perusahaan ChatGPT, OpenAI, mengumumkan rencana untuk meluncurkan fitur kontrol orang tua (parental control) pada chatbot populernya. Langkah ini diambil sebagai respons atas meningkatnya kekhawatiran dan tudingan bahwa teknologi mereka dapat membahayakan pengguna muda. Fitur baru ini kemungkinan akan rilis pada bulan depan.
Pengumuman ini datang setelah serangkaian laporan dan gugatan hukum yang mengkhawatirkan. Salah satunya adalah gugatan oleh orang tua Adam Raine (16), yang menuduh ChatGPT memberikan saran berbahaya terkait bunuh diri kepada remaja tersebut.
Kasus serupa juga pernah terjadi pada tahun lalu, di mana platform chatbot lain, Character.AI, mendapat gugatan dari seorang ibu dari Florida atas tuduhan yang sama terhadap putranya yang berusia 14 tahun.
Selain kasus bunuh diri, ada pula kekhawatiran yang berkembang mengenai ikatan emosional pengguna dengan ChatGPT. Laporan dari The New York Times dan CNN menunjukkan bahwa dalam beberapa kasus, interaksi intens dengan chatbot ini bisa memicu delusi dan keterasingan dari keluarga.
Detail Fitur dan Komitmen OpenAI
Dalam postingan blog yang rilis pada Selasa (2/9), OpenAI menjelaskan bahwa fitur kontrol orang tua di ChatGPT akan mencakup beberapa opsi penting. Orang tua dapat menautkan akun mereka dengan akun anak-anak mereka, mengatur bagaimana ChatGPT merespons percakapan remaja, serta menonaktifkan fitur-fitur seperti memori dan riwayat obrolan.
Tak hanya itu, sistem akan mengirimkan notifikasi kepada orang tua jika mendeteksi “saat-saat yang tidak menyenangkan” selama penggunaan.
OpenAI tidak secara langsung mengaitkan pengumuman ini dengan laporan-laporan terbaru, tetapi mengakui bahwa “kasus-kasus memilukan baru-baru ini tentang orang-orang yang menggunakan ChatGPT di tengah-tengah krisis akut” telah mendorong mereka untuk memberikan rincian lebih lanjut mengenai pendekatan keamanan mereka.
Juru bicara OpenAI sebelumnya menyatakan bahwa ChatGPT telah memiliki perlindungan, seperti mengarahkan pengguna ke saluran bantuan krisis.
Namun, dalam pernyataan terbaru menanggapi kasus Raine, mereka mengakui bahwa perlindungan tersebut terkadang tidak bisa jadi andalan, terutama dalam percakapan yang sangat panjang.
“Meskipun perlindungan ini bekerja paling baik dalam pertukaran yang umum dan singkat, kami telah belajar dari waktu ke waktu bahwa mereka terkadang menjadi kurang dapat diandalkan dalam interaksi yang panjang di mana bagian dari pelatihan keselamatan model dapat menurun,” ujar juru bicara perusahaan.
OpenAI menegaskan bahwa langkah-langkah ini hanyalah permulaan. Mereka berkomitmen untuk terus belajar dan memperkuat pendekatan keamanan mereka. Dengan bimbingan para ahli, OpenAI berkomitmen membuat ChatGPT seaman mungkin bagi semua penggunanya.
Dengan peluncuran fitur ini, OpenAI berharap dapat memberikan rasa aman kepada orang tua. Selain itu juga memastikan bahwa penggunaan ChatGPT tetap berada dalam koridor yang positif dan bertanggung jawab.
Baca Juga:
