Sebuah laporan media lokal mengatakan deepfake menggambarkan pemimpin Filipina itu menyerukan penggunaan kekuatan untuk membalas terhadap China. Kantor komunikasinya menandai konten yang dimanipulasi awal pekan ini, dan mengatakan tidak ada arahan seperti itu dari presiden.
“Telah menjadi perhatian Kantor Komunikasi Kepresidenan bahwa ada konten video yang diposting di platform streaming video populer yang beredar online yang telah memanipulasi audio yang dirancang agar terdengar seperti Presiden Ferdinand R. Marcos Jnr,” kata PCO dalam sebuah pernyataan pada hari Selasa.
“Deepfake audio mencoba untuk membuatnya tampak seolah-olah presiden telah mengarahkan Angkatan Bersenjata Filipina kita untuk bertindak terhadap negara asing tertentu. Tidak ada arahan seperti itu atau telah dibuat,” tambahnya.
Menurut PCO, mereka sedang mengerjakan langkah-langkah untuk memerangi berita palsu, misinformasi, dan disinformasi melalui Kampanye Literasi Media dan Informasi.
“Kami juga berkoordinasi erat dan bekerja dengan lembaga pemerintah dan pemangku kepentingan sektor swasta terkait untuk secara aktif mengatasi proliferasi dan penggunaan berbahaya deepfake video dan audio dan konten AI generatif lainnya,” katanya.
11:56
Dari India ke China, bagaimana deepfake membentuk kembali politik Asia
Dari India hingga China, bagaimana deepfake membentuk kembali politik Asia
Deepfake Marcos menunjukkan bagaimana negara-negara di seluruh dunia dari AS hingga India bergulat dengan konten online yang dimanipulasi yang mencoba memengaruhi politik saat kecerdasan buatan lepas landas.
Tahun lalu, Menteri Pertahanan Gilberto Teodoro Jnr memperingatkan personel militer dan keamanan agar tidak menggunakan aplikasi yang memanfaatkan AI untuk menghasilkan potret pribadi, dengan mengatakan mereka dapat “digunakan dengan jahat untuk membuat profil palsu yang dapat menyebabkan pencurian identitas, rekayasa sosial, serangan phishing, dan kegiatan jahat lainnya”.
Tiga anggota parlemen juga telah mencari melalui RUU hukuman yang lebih berat terhadap kejahatan yang dilakukan menggunakan teknologi deepfake.
Draf RUU mendefinisikan “deepfake” sebagai “rekaman audio, visual atau audiovisual apa pun yang dibuat atau diubah melalui sarana teknis, seperti perekaman video, film film, rekaman suara, gambar elektronik, atau foto, yang sangat meyakinkan sehingga orang yang masuk akal akan salah mengira itu sebagai representasi otentik dari ucapan atau perilaku individu. “
Deepfake ilegal dapat “melanggar hak cipta, melanggar perlindungan data, mencemarkan nama baik individu, dan mengganggu privasi”, menurut RUU tersebut.
Laporan tambahan oleh desk Asia SCMP