NEW YORK (AP) – Mantan Presiden Donald Trump dihadang geng oleh petugas polisi Kota New York yang berpakaian anti huru hara. Presiden Rusia Vladimir Putin di penjara berwarna abu-abu di balik jeruji sel beton yang remang-remang.
Gambar-gambar yang sangat detail dan sensasional telah membanjiri Twitter dan platform lainnya dalam beberapa hari terakhir, di tengah berita bahwa Trump menghadapi kemungkinan tuntutan pidana dan Pengadilan Kriminal Internasional telah mengeluarkan surat perintah penangkapan untuk Putin.
Tapi tidak ada visual yang nyata. Gambar – dan sejumlah variasi yang mengotori media sosial – diproduksi menggunakan generator gambar yang semakin canggih dan dapat diakses secara luas yang diberdayakan oleh kecerdasan buatan.
Pakar informasi yang salah memperingatkan bahwa gambar-gambar itu adalah pertanda dari realitas baru: gelombang foto dan video palsu membanjiri media sosial setelah acara berita besar dan lebih lanjut mengaburkan fakta dan fiksi pada saat-saat penting bagi masyarakat.
“Itu memang menambah kebisingan selama peristiwa krisis. Itu juga meningkatkan tingkat sinisme,” kata Jevin West, seorang profesor di University of Washington di Seattle yang berfokus pada penyebaran informasi yang salah. “Anda mulai kehilangan kepercayaan pada sistem dan informasi yang Anda dapatkan.”
Meskipun kemampuan untuk memanipulasi foto dan membuat gambar palsu bukanlah hal baru, alat pembuat gambar AI oleh Midjourney, DALL-E, dan lainnya lebih mudah digunakan. Mereka dapat dengan cepat menghasilkan gambar yang realistis – lengkap dengan latar belakang yang mendetail – dalam skala massal hanya dengan permintaan teks sederhana dari pengguna.
Beberapa gambar baru-baru ini telah didorong oleh rilis bulan ini dari model sintesis teks-ke-gambar Midjourney bulan ini, yang dapat, antara lain, sekarang menghasilkan gambar yang meyakinkan meniru gaya foto kantor berita.
Dalam salah satu utas Twitter yang beredar luas, Eliot Higgins, pendiri Bellingcat, sebuah kolektif jurnalisme investigasi yang berbasis di Belanda, menggunakan versi terbaru alat tersebut untuk memunculkan sejumlah gambar dramatis penangkapan fiksi Trump.
Visual, yang telah dibagikan dan disukai puluhan ribu kali, menunjukkan kerumunan petugas berseragam menangkap miliarder Republik itu dan dengan kasar menariknya ke trotoar.
Higgins, yang juga berada di balik serangkaian gambar penangkapan Putin, diadili dan kemudian dipenjara, mengatakan bahwa dia memposting gambar tersebut tanpa niat buruk. Dia bahkan menyatakan dengan jelas di utas Twitter-nya bahwa gambar-gambar itu dihasilkan oleh AI.
Tetap saja, gambar-gambar itu cukup untuk membuatnya terkunci dari server Midjourney, menurut Higgins. Laboratorium penelitian independen yang berbasis di San Francisco tidak menanggapi email yang meminta komentar.
“Gambar penangkapan Trump benar-benar hanya dengan santai menunjukkan betapa baik dan buruknya Midjourney dalam menampilkan adegan nyata,” tulis Higgins dalam email. “Gambar-gambar itu mulai membentuk semacam narasi saat saya memasukkan petunjuk ke Midjourney, jadi saya merangkainya menjadi sebuah narasi, dan memutuskan untuk menyelesaikan ceritanya.”
Dia menunjukkan bahwa gambar-gambar itu jauh dari sempurna: di beberapa tempat, Trump terlihat, anehnya, mengenakan sabuk pengaman polisi. Di tempat lain, wajah dan tangan terdistorsi dengan jelas.
Tetapi tidak cukup bahwa pengguna seperti Higgins dengan jelas menyatakan dalam postingan mereka bahwa gambar-gambar tersebut dibuat oleh AI dan semata-mata untuk hiburan, kata Shirin Anlen, teknolog media di Witness, sebuah organisasi hak asasi manusia berbasis di New York yang berfokus pada bukti visual.
Terlalu sering, visual dengan cepat dibagikan ulang oleh orang lain tanpa konteks penting itu, katanya. Memang, sebuah posting Instagram yang membagikan beberapa gambar Higgins tentang Trump seolah-olah itu asli mengumpulkan lebih dari 79.000 suka.
“Anda hanya melihat sebuah gambar, dan begitu Anda melihat sesuatu, Anda tidak dapat mengabaikannya,” kata Anlen.
Dalam contoh lain baru-baru ini, pengguna media sosial membagikan gambar sintetik yang diduga menangkap Putin sedang berlutut dan mencium tangan pemimpin China Xi Jinping. Gambar yang beredar saat presiden Rusia menyambut Xi ke Kremlin minggu ini, dengan cepat menjadi meme kasar.
Tidak jelas siapa yang membuat gambar itu atau alat apa yang mereka gunakan, tetapi beberapa petunjuk mengungkap pemalsuan itu. Misalnya, kepala dan sepatu kedua pemimpin sedikit terdistorsi, dan interior ruangan tidak cocok dengan ruangan tempat pertemuan sebenarnya berlangsung.
Dengan gambar sintetik yang semakin sulit dibedakan dari aslinya, cara terbaik untuk memerangi misinformasi visual adalah kesadaran dan pendidikan publik yang lebih baik, kata para ahli.
“Ini menjadi sangat mudah dan sangat murah untuk membuat gambar-gambar ini sehingga kita harus melakukan apapun yang kita bisa untuk membuat publik menyadari betapa bagusnya teknologi ini,” kata West.
Higgins menyarankan perusahaan media sosial dapat fokus pada pengembangan teknologi untuk mendeteksi gambar yang dihasilkan AI dan mengintegrasikannya ke dalam platform mereka.
Twitter memiliki kebijakan yang melarang “media sintetis, yang dimanipulasi, atau di luar konteks” yang berpotensi menipu atau merugikan. Anotasi dari Catatan Komunitas, proyek pemeriksaan fakta yang bersumber dari kerumunan Twitter, dilampirkan ke beberapa tweet untuk menyertakan konteks bahwa gambar Trump dihasilkan oleh AI.
Ketika dihubungi untuk memberikan komentar pada hari Kamis, perusahaan hanya mengirim email balasan otomatis.
Meta, perusahaan induk Facebook dan Instagram, menolak berkomentar. Beberapa gambar Trump palsu diberi label sebagai “salah” atau “konteks yang hilang” melalui program pemeriksaan fakta pihak ketiga, di mana AP adalah salah satu pesertanya.
Arthur Holland Michel, seorang rekan di Carnegie Council for Ethics in International Affairs di New York yang fokus pada teknologi baru, mengatakan dia khawatir dunia belum siap menghadapi banjir yang akan datang.
Dia bertanya-tanya bagaimana deepfake yang melibatkan orang biasa – foto palsu yang berbahaya dari mantan pasangan atau kolega, misalnya – akan diatur.
“Dari perspektif kebijakan, saya tidak yakin kita siap menghadapi skala disinformasi ini di setiap lapisan masyarakat,” tulis Michel dalam email. “Menurut saya, dibutuhkan terobosan teknis yang belum terbayangkan untuk menghentikan ini secara definitif.”
• Reporter Associated Press David Klepper di Washington berkontribusi pada cerita ini.
Sumber :