Cek Fakta: Konten Terduga Pelaku Penyiraman Air Keras

Pascakejadian penyiraman air keras oleh dua orang tak dikenal kepada aktivis dari Komisi untuk Orang Hilang dan Korban Tindak Kekerasan (KontraS), Andrie Yunus, sejumlah konten berisi foto terduga pelaku di atas sepeda motor muncul dengan kualitas yang lebih jernih dibandingkan CCTV yang beredar.

Salah satunya di platform TikTok yang dalam kurun waktu 3 hari sudah ditonton lebih dari 30 juta kali, dengan lebih dari 1 juta likes, dan puluhan ribu komentar.

Konten itu juga dilengkapi dengan klaim dan narasi yang mengisyaratkan foto tersebut seakan-akan berasal dari rekaman asli kamera pemantau di lokasi kejadian.

DW Indonesia melakukan analisis terhadap konten, foto, dan klaim tersebut.

Klaim: "1 Indonesia sedang mencari 2 orang ini” dan "Muka sejelas ini kok masih belum tertangkap?” 

Cek Fakta DW: Konten hasil buatan AI memakai AI Enhancer

Meski pihak kepolisian hingga Kementerian Digital dan Informasi RI telah mengonfirmasi bahwa foto terduga pelaku yang beredar adalah buatan AI, respons netizen di kolom komentar beragam.

Tidak sedikit yang percaya bahwa orang dalam foto adalah benar terduga pelaku, tapi ada juga yang mengkritisi dan menilai foto tersebut buatan AI. 

Mendalami konten itu, tim Cek Fakta DW memeriksa hasil foto yang beredar menggunakan dua alat pendeteksi AI, yaitu Hive Moderation dan ZeroGPT. 

Kedua alat pendeteksi itu mengeluarkan hasil yang serupa yaitu kemungkinan foto dibuat oleh AI relatif rendah. Hive Moderation memberi analisis probabilitias foto dibuat dengan AI hanya 12,6 persen, sedangkan ZeroGPT hanya 2 persen. Penelusuran kami tak berhenti di situ. 

Penelusuran manual terhadap AI peningkat kualitas foto atau enhancer

Kami melakukan verifikasi manual dengan melakukan pengamatan mendalam terhadap foto tersebut sekaligus mewawancarai pakar digital.

Hasilnya, terlihat sejumlah anomali atau kejanggalan, mulai dari anomali anatomi atau kejanggalan bagian tubuh dan diskontinuitas objek atau barang-barang yang menghilang. 

Seperti tangan yang terlihat tidak proporsional dan menembus badan pengemudi, tas ransel, serta topi yang menghilang dari rekaman kamera pemantau asli di lokasi kejadian.

Beberapa hal itu adalah kejanggalan yang biasanya ditemukan di konten yang dihasilkan oleh AI.

Pakar menjelaskan kemungkinan besar hasil foto tersebut merupakan produk dari sebuah sistem peningkat kualitas foto atau data yang disebut AI Enhancer, yakni sebuah teknologi yang dapat meningkatkan kualitas gambar yang buram atau beresolusi rendah agar terlihat lebih tajam. 

Namun, penting dipahami bahwa teknologi ini tidak selalu menampilkan detail asli. Dalam banyak kasus, AI justru menambahkan detail baru berdasarkan prediksi sistem, bukan berdasarkan data yang benar-benar ada dalam rekaman asli.

Halusinasi AI

Kepada DW, Pakar Digital Pusat Inovasi Kecerdasan Artifisial dan Teknologi untuk Demokrasi (PIKAT), Damar Juniarto, menjelaskan bahwa teknologi AI Enhancer bekerja dengan cara memprediksi bagian gambar yang tidak jelas atau hilang.

Artinya, fitur wajah yang terlihat lebih tajam bisa saja merupakan hasil "tebakan” sistem. Dalam beberapa kasus, AI bahkan bisa menghasilkan wajah yang tidak pernah ada, atau disebut "halusinasi AI”. 

"AI bisa memprediksi, tapi hasilnya, terutama dari versi gratis, sering kali memiliki akurasi yang rendah, baik untuk proses enhance maupun generatif, bahkan cenderung menghasilkan ‘halusinasi' dan hasil tiap sumber itu berbeda-beda tergantung data training masing-masing mesin AI," jelas Damar.

Ia juga mengingatkan bahwa jika identifikasi hanya didasarkan pada gambar hasil AI, risiko salah sasaran menjadi sangat tinggi, "kalau ini disebarluaskan tanpa didahului pengumpulan informasi yang cukup dan hanya berbasiskan pada foto yang di-enhance atau di-auto enhance dengan AI, maka kemungkinan salah sasaran akan sangat tinggi,” tegasnya.

Imbauan tim hukum 

Senada, perwakilan Tim Advokasi untuk Demokrasi (TAUD), selaku pendamping hukum Andrie Yunus, menyebut foto yang diduga merupakan hasil rekayasa AI tidak bisa dijadikan alat bukti dalam proses hukum.

TAUD juga meminta masyarakat untuk tidak menyebarkan lebih luas foto atau konten yang berkaitan dengan produk AI tersebut.

"Foto tersebut tidak bisa dijadikan dasar untuk menuduh seseorang sebagai pelaku, karena tidak bisa dipertanggungjawabkan. Kami mengimbau masyarakat untuk tidak menyebarkan gambar atau video yang tidak berasal dari sumber resmi, dan menunggu informasi yang terverifikasi,” tegas salah satu tim TAUD, Afif Abdul Qoyim. 

Pascakejadian penyiraman air keras kepada Andrie Yunus pada Jumat (13/03), respons dan dukungan publik mengalir deras, bersamaan dengan meningkatnya arus informasi khususnya di media sosial, termasuk foto yang diduga dibuat oleh AI di atas.

Karena itu, TAUD mendorong aparat untuk menelusuri sumber awal foto buatan tersebut sebagai bagian dari penyelidikan, "kami juga mendorong kepolisian, kalau memang dapat kesimpulan seperti itu, dilacak sampai kepada siapa pihak pertama yang merekayasa foto tersebut dan itu dijadikan bukti tambahan untuk mencari pelaku."

Mereka menambahkan, penyebaran gambar semacam ini berpotensi menjadi bagian dari upaya pelaku untuk mengaburkan informasi.

Fika Ramadhani turut berkontribusi dalam pembuatan artikel ini

Editor: Melisa Lolindu