Kementerian Komunikasi dan Digital (Komdigi) baru-baru ini memaparkan sejumlah dampak negatif AI terhadap sebaran misinformasi dan hoaks.
Plt Direktur Pengembangan Ekosistem Digital, Aries Kusdaryono menyampaikan empat argumen utama terkait dampak negatif yang timbul oleh GenAI terhadap misinformasi dalam acara Rilis Survei Nasional yang bertajuk “Menyusun Peta Jalan Menghadapi Gangguan Informasi di Era AI Generatif”
“Terdapat empat argumen dampak dari AI Generatif terhadap misinformasi tersebut. Yang pertama yaitu meningkatnya kuantitas misinformasi dikarenakan mudahnya pengaksesan dan penggunaan AI Generatif dapat berguna untuk menciptakan misinformasi atau disinformasi tersebut dalam skala besar, sehingga dapat menghilangkan konten faktual untuk menimbulkan kebingungan,” ujar Aries Kamis (16/1)
Dampak Negatif AI Menurut Komdigi
1. Peningkatan Kuantitas Misinformasi
Dampak pertama yang ter-identifikasi adalah peningkatan jumlah konten hoaks. Aries menjelaskan bahwa kemudahan akses dan penggunaan AI Generatif memungkinkan individu untuk menciptakan misinformasi dalam skala besar. Ini berpotensi menghilangkan konten faktual dan menciptakan kebingungan di kalangan masyarakat
Dengan kemampuan memproduksi informasi secara cepat, GenAI sangat berguna untuk menyebar informasi yang tidak akurat dengan cara yang sangat efisien.
2. Peningkatan Kualitas Misinformasi
Selain kuantitas, hasil kualitas dari konten misinformasi juga menjadi perhatian. Kecerdasan buatan generatif memiliki kemampuan teknis yang memungkinkan pembuatan konten yang lebih persuasif dan sulit untuk diverifikasi kebenarannya. Hal ini membuat masyarakat lebih rentan terhadap informasi yang salah, karena konten tersebut terlihat lebih kredibel daripada informasi yang sebenarnya.
3. Personalisasi Misinformasi
Dampak ketiga AI Generatif mampu membuat konten yang dipersonalisasi. Dengan menggunakan data dan preferensi pengguna, AI dapat memproduksi misinformasi yang lebih relevan dan menarik bagi individu tertentu. Aries mengungkapkan bahwa personalisasi ini membuat konten hoaks lebih persuasif dan lebih mudah masyarakat terima, sehingga meningkatkan potensi penyebarannya.
4. Konten yang Terlihat Realistis
Terakhir, dampak yang juga perlu kita perhatikan adalah munculnya konten-konten yang tampak logis tetapi tidak akurat. Konten semacam ini bisa saja dibuat secara tidak sengaja dan berpotensi disebarluaskan oleh pengguna yang tidak menyadari bahwa informasi tersebut salah. Hal ini menambah tantangan dalam memverifikasi kebenaran informasi di era digital yang serba cepat.
Aries menekankan bahwa kekacauan informasi, termasuk misinformasi, disinformasi, dan malinformasi, merupakan fenomena yang tak terhindarkan di era digital saat ini. Ia menjelaskan bahwa terdapat tiga tahapan dalam proses produksi hingga penyebaran informasi: penciptaan narasi, pembuatan produk media, dan distribusi informasi.
Survei Nasional tentang Penggunaan AI
Dalam acara tersebut, Safer Internet Lab bekerja sama dengan Centre for Strategic and International Studies (CSIS) dan Google meluncurkan Survei Nasional Opini Publik Peta Mis/Disinformasi di Indonesia. Survei ini tidak hanya mengukur penggunaan AI Generatif dan deepfake dalam konteks Pemilu 2024, tetapi juga menemukan bahwa penggunaan teknologi AI diprediksi akan semakin meningkat.
Salah satu temuan yang mengkhawatirkan adalah potensi penggunaan video deepfake dalam kampanye yang dapat menirukan suara dan penampilan seseorang, yang berisiko menyesatkan pemilih.
Survei ini juga mencatat keputusan Mahkamah Konstitusi yang melarang penggunaan AI dalam kampanye, tetapi tantangan regulasi tetap ada mengingat perkembangan teknologi yang sangat cepat. Di sisi masyarakat, laporan menemukan bahwa banyak individu masih kesulitan untuk membedakan antara informasi yang disampaikan secara langsung dan informasi yang dihasilkan oleh AI Generatif.
