Risiko GenAI: Ancaman Misinformasi dan Privasi di Era Digital
Teknologi Generative Artificial Intelligence (GenAI) memberikan dampak besar terhadap peradaban, menawarkan berbagai kemudahan dan peluang baru. Namun, di balik manfaat tersebut, muncul potensi ancaman yang serius terhadap penyebaran misinformasi dan pelanggaran privasi.
Riset yang dilakukan oleh Safer Internet Lab (SAIL) dan Center for Digital Society (CfDS) menunjukkan bahwa GenAI memiliki kemampuan untuk mempercepat penyebaran konten palsu dan manipulasi informasi, yang dapat merusak ketahanan digital serta memengaruhi stabilitas sosial dan politik.
Terlebih lagi, AI dapat digunakan untuk praktik manipulasi informasi di tingkat internasional, khususnya di kawasan Asia-Pasifik, dengan memengaruhi opini publik dan integritas demokrasi, bahkan dalam proses Pemilu 2024.
Langkah Kolaboratif untuk Mengatasi Ancaman GenAI
Menanggapi tantangan ini, Centre for Strategic and International Studies (CSIS) bekerja sama dengan SAIL dan CfDS menyelenggarakan Information Resilience and Integrity Symposium (IRIS) di Universitas Gadjah Mada, Yogyakarta. Simposium ini bertujuan untuk membahas strategi kawasan Asia-Pasifik dalam menghadapi dampak teknologi yang berkembang pesat, sambil menjaga integritas ruang digital.
Direktur Eksekutif CSIS, Yose Rizal Damuri, menekankan pentingnya upaya bersama untuk menangani masalah penipuan finansial, manipulasi informasi, dan ancaman terhadap privasi yang dibawa oleh GenAI. IRIS diharapkan menjadi platform yang menyatukan sektor akademis dan kebijakan berbasis data untuk merumuskan solusi kolektif.
GenAI dan Kemampuan Mempercepat Penyebaran Misinformasi
Berbeda dengan misinformasi yang dibuat secara manual, AI mampu menghasilkan konten palsu dengan kecepatan luar biasa. Teknologi ini dapat menghasilkan artikel berita palsu atau komentar yang menyerupai ucapan orang asli dalam waktu singkat, yang dapat langsung disebarkan ke berbagai platform media sosial.
Konten buatan AI ini sering kali sangat realistis, membuatnya sulit dibedakan dari konten yang dibuat oleh manusia. Hal ini menambah kerentanannya terhadap manipulasi informasi, dan meningkatkan risiko pembentukan opini publik yang salah.
Ancaman Video dan Audio Deepfake
Salah satu bentuk ancaman paling serius dari GenAI adalah kemampuannya untuk menciptakan video dan audio deepfake yang sangat meyakinkan. Deepfake ini dapat meniru suara dan wajah tokoh publik, termasuk politisi, untuk menyebarkan informasi palsu atau membuat pernyataan yang tidak pernah mereka buat.
Contoh yang paling mencolok adalah penyebaran gambar dan video palsu yang dapat menjadi viral dalam hitungan jam, tanpa sempat diverifikasi. Hal ini menjadi tantangan besar dalam menjaga keakuratan informasi, seperti yang terlihat pada foto-foto palsu yang meresahkan publik, seperti gambar kebakaran dekat Pentagon atau foto Paus yang dimanipulasi.
Bahaya Bias dalam Penggunaan GenAI
Masalah lain yang mengkhawatirkan adalah penggunaan data yang tidak terfilter dalam pelatihan model GenAI. Data ini seringkali mengandung bias atau informasi yang tidak akurat, yang kemudian menghasilkan konten yang dapat memperburuk stereotip atau melanggengkan bias dalam masyarakat.
Hal ini semakin menambah tantangan dalam memastikan integritas informasi di dunia digital yang semakin terhubung, di mana kebenaran sering kali bisa terdistorsi oleh kemampuan teknologi ini.
