Jakarta, Dexpert.co.id – Teknologi kecerdasan buatan (AI) makin banyak digunakan dalam kehidupan sehari-hari. Meski memiliki dampak positif, tetapi risiko negatifnya juga besar.
Salah satunya terlihat dari meluasnya penyebaran deepfake, yakni konten visual dan audio yang dimodifikasi. Bahayanya, kerap kali konten deepfake dinarasikan sebagai konten asli.
Misalnya saja beberapa saat lalu ketika tersebar video deepfake Presiden Joko Widodo (Jokowi) yang pidato bahasa Mandarin. Video itu sempat bikin gempar, meski kemudian dipastikan palsu.
Paus Fransiskus turut menyoroti bahasa penyebaran deepfake di internet. Ia mengatakan bahwa pengembangan teknologi tersebut bisa menciptakan distorsi realita tanpa adanya regulasi etika.
“Bagaimana kita bisa tetap sepenuhnya menjadi manusia dan membimbing transformasi budaya ini untuk tujuan mulia?” ia mempertanyakan, dikutip dari Russia Today, Kamis (25/1/2024).
Paus Fransiskus mengakui bahwa sistem AI bisa mengatasi ketidaktahuan manusia tentang banyak hal. Selain itu, AI juga memfasilitasi pertukaran informasi dari berbagai perspektif yang berbeda lintas generasi.
“Namun, di saat bersamaan, AI bisa menjadi sumber ‘polusi kognitif’, sebuah distorsi realita yang sebagian atau sepenuhnya memberikan narasi sesat. Bahaya jika orang percaya dengan realita itu,” ia menjelaskan.
Lebih lanjut, ia mengaku pernah menjadi korban deepfake. Sebab, belakangan deepfake memang kerap digunakan untuk mempersonifikasi visual dan audio dari figur terkenal.
Tahun lalu, beredar foto Paus Fransiskus mengenakan jaket puffer yang ala Gen Z yang sedang tren. Menurut laporan, foto itu merupakan hasil deepfake buatan Midjourney, yakni tool grafis berbasis AI.
Foto palsu Paus Fransiskus viral di media sosial dan tak sedikit yang percaya bahwa konten itu asli. Menurut Paus Fransiskus, deepfake bisa jadi alat baru untuk mengeksploitasi masyarakat.
Artikel Selanjutnya
Video: Berbahaya! Manusia Bisa Dikalahkan AI, Ada Solusinya?
(fab/fab)
