Hoaks Pakai Teknologi Deepfake Makin Marak, Masyarakat Dituntut Jeli Cerna Informasi

Liputan6.com, Jakarta - Kemajuan teknologi hampir dirasakan semua masyarakat Indonesia, khususnya yang terkait dengan internet atau media sosial. Namun tak selamanya kemajuan teknologi punya dampak positif.

Salah satu dampak negatif dari perkembangan dunia maya adalah maraknya hoaks, berita palsu, maupun dis/misinformasi. Data dari Kementerian Komunikasi dan Digital (Komdigi) tahun 2024 mengungkap bahwa ada 1.923 temuan isu hoaks.

Tentu ini bukanlah jumlah yang sedikit untuk periode selama setahun saja. Dari jumlah tersebut ada 890 hoaks dengan isu penipuan, diikuti oleh isu politik (237) dan pemerintahan (214).

Tingginya temuan isu hoaks pada tahun 2024 sejalan dengan tingkat literasi digital yang masih rendah. Menurut catatan INDEF  tingkat literasi digital di Indonesia hanya sebesar 62 persen. Jumlah itu paling rendah jika dibandingkan negara ASEAN lainnya yang rata-rata mencapai 70 persen.

Penyebaran hoaks ini semakin sulit diantisipasi seiring dengan banyaknya konten yang dibuat menggunakan modifikasi AI atau teknologi deepfake. Data dari PT Indonesia Digital Identity kasus penipuan menggunakan teknologi deepfake meningkat hingga 1.550 persen sepanjang 2022 hingga 2023.

Kasus penipuan menggunakan teknologi deepfake sebelumnya juga pernah diungkap Polri. Direktorat Tindak Pidana Siber (Dit Tipidsiber) Bareskrim Polri telah mengungkap kasus dugaan penipuan yang mencatut nama dan wajah pejabat negara pada Januari 2025 lalu.

Dir Tipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji mengungkapkan, para tersangka mengunggah video palsu yang seolah-olah Presiden Prabowo, Wakil Presiden Gibran Rakabuming Raka, Menteri Keuangan Sri Mulyani, dan pejabat negara lainnya tengah menawarkan bantuan kepada masyarakat.

Bahkan, pelaku juga menambahkan caption dan nomor telepon di akun media sosialnya guna menerima keuntungan.

"Yang kemudian diarahkan oleh tersangka untuk mengisi pendaftaran penerima bantuan dan setelah itu korban diminta untuk mentransfer sejumlah uang," ujar Himawan.

Modus pengiriman uang itu digunakan untuk biaya administrasi. Korban yang telah membayar biaya administrasi ternyata dijanjikan pencairan dana oleh tersangka.

"Sehingga, korban percaya untuk kembali mentransfer sejumlah uang yang sebenarnya dana bantuan tersebut tidak pernah ada," ucap Himawan.

Berkaca dari kasus tersebut, Mobile App Security Evangelist dari Appdome, Jan Sysmans, menekankan pentingnya solusi keamanan yang dapat beradaptasi dengan cepat terhadap ancaman-ancaman baru seperti Deepfake.

"Pertahanan konvensional tidak akan mampu mengatasi gelombang ancaman yang semakin canggih ini. Oleh karena itu, teknologi keamanan yang bersifat adaptif dan menggunakan AI dalam pertahanannya menjadi sangat penting," ujar Jan melalui keterangannya.

Salah satu yang menjadi sorotan belum lama ini adalah konten video mantan Menteri Keuangan Sri Mulyani yang menyebut guru sebagai beban negara. Konten ini sempat viral dan menimbulkan kehebohan di masyarakat.

Terlebih konten tersebut menggunakan teknologi deepfake yang membuat masyarakat kebingungan untuk membedakan apakah video tersebut asli atau bukan.

“Potongan video yang beredar yang menampilkan seolah-olah saya menyatakan guru sebagai beban negara adalah hoaks. Faktanya saya tidak pernah menyatakan guru sebagai beban negara,” ujar Sri Mulyani mengklarifikasi di akun Instagramnya, 21 Agustus 2025 lalu.

“Video tersebut adalah hasil deepfake dan potongan tidak utuh dari pidato saya dalam Forum Konvensi Sains, Teknologi, dan Industri Indonesia di ITB pada 7 Agustus 2025.”

Sayangnya, klarifikasi dari Sri Mulyani seolah tidak diindahkan sebagian kecil masyarakat. Rumah Sri Mulyani menjadi salah satu korban penjarahan pada Minggu (31/8/2025) lalu.

“Penggunaan AI untuk penyebaran disinformasi bisa dengan cepat meruntuhkan sesuatu yang sudah lama dibangun bersama-sama oleh masyarakat, yaitu kerukunan. Orang jahat bisa melakukan kejahatan dari manapun dengan cara sengaja membuat disinformasi, fitnah, kebencian atau DFK dengan menargetkan kelompok etnis, agama, suku, ras atau politik tertentu untuk menciptakan kerusuhan, permusuhan dan perpecahan,” ujar Hariqo Satria, Tenaga Ahli Utama Badan Komunikasi Pemerintah RI.

“Saya mengumpakannya, disinformasi itu melaju kencang di jalan emosi, sementara pelurusannya berjalan pelan di jalur bukti. Tentu penggunaan AI untuk pembuatan konten hoaks deepfake ini sangat berbahaya,” ujarnya menambahkan.

Laporan Risiko Global 2025 yang dikeluarkan World Economic Forum menempatkan misinformasi dan disinformasi sebagai ancaman global nomor empat, dan diprediksi menjadi ancaman global nomor satu pada tahun 2027. Laporan ini berdasarkan survei terhadap lebih dari 900 pakar internasional lintas sektor: akademik, NGO, pebisnis, pemerintah, dan masyarakat sipil.

“Prinsip utama agar tidak terjebak disinformasi adalah dengan selalu mempertanyakan kebenaran konten, segera melakukan pengecekan fakta melalui sumber kredibel, dan mengelola emosi agar tidak langsung bereaksi atau menyebarkan informasi tanpa verifikasi. Sebelum memberikan like, komentar, atau menyebarkan sebuah konten, tanyakan pada diri sendiri, apakah konten isinya benar?” ujarnya.

Pemerintah sebenarnya tidak tinggal diam untuk melawan hoaks. Sejumlah upaya dilakukan untuk memberikan edukasi maupun menindak konten hoaks yang beredar.

“Pemerintah Indonesia mengambil tindakan yang menyeluruh untuk meminimalisir disinformasi. Saat ini Pemerintah melalui Komdigi sedang menyusun regulasi terkait penggunaan kecerdasan buatan khususnya dalam aspek etika. Pemerintah juga menerapkan hukum yang sudah berlaku seperti UU ITE, UU Perlindungan Data Pribadi.

Selain itu, pemerintah secara aktif menjalankan program literasi digital untuk meningkatkan kemampuan masyarakat dalam mengidentifikasi disinformasi berbasis AI, kemudian terus mendisiplinkan platform digital untuk menerapkan fitur penandaan konten buatan AI," ujarnya.

Manajer Program ICT Watch, Defira NC mengungkapkan bahwa konten hoaks dengan teknologi AI semakin realistis. Masyarakat jadi kesulitan membedakan mana yang hoaks mana yang konten asli.

Contohnya, kata dia, beberapa waktu lalu sempat beredar video Presiden ke-7 RI, Joko Widodo yang berpidato menggunakan bahasa mandarin. Selain itu, ada juga video jurnalis Najwa Shihab yang mempromosikan situs judi online. Namun, kata Defira, konten-konten tersebut merupakan editan dan hasil buatan AI.

"AI nya makin canggih dan hasilnya makin realistis. Masyarakat jadi semakin bingung," kata Defira.

Karena itu, Defira meminta, masyarakat untuk waspada dan tidak terjebak dengan konten hoaks AI yang semakin realistis. Ia pun memberikan sejumlah tips mudah untuk mendeteksi konten hoaks berbasis AI.

Meski konten hoaks AI semakin canggih, namun Defira menyebut masih ada minusnya dan bisa dibedakan dengan konten aslinya.

"Makin canggih teknologi AI, tetap ada aja kok minusnya. Contohnya kedipan mata, ekspresi wajah, dan gerakan mulut yang tidak sesuai suaranya. Kalau kita jeli, tetap kelihatan ada bedanya," ucap Defira.

Selain itu, mendeteksi konten AI bisa dengan melakukan verifikasi dan mencari perbandingan ke sumber lainnya. Kemudian, masyarakat juga bisa mencoba tools atau perangkat pendeteksi AI yang tersedia di internet dan ramah pengguna.

"Karena banyak sekali tools AI yang bisa kita gunakan untuk menelusuri AI. Memang pola-pola khas yang dibentuk oleh AI bisa dikenali oleh AI juga. AI sebenarnya juga bisa jadi senjata baru untuk melawan hoaks," tutur dia.

Koordinator Koalisi Cek Fakta, Adi Marsiela tak memungkiri bahwa teknologi AI dapat membantu kerja-kerja manusia saat ini. Namun, tak sedikit juga teknologi AI digunakan untuk menggiring opini seseorang hingga menyebarkan konten hoaks.

"Itu sangat bisa membantu peredaran deepfake, tidak hanya di Indonesia, di luar negeri pun demikian," kata Adi.

Menurut Adi, kemunculan konten hoaks berbasis AI menjadi tantangan tersendiri bagi pemeriksa fakta saat ini. Mereka harus memahami dan mampu menggunakan teknologi AI. Hal ini dilakukan untuk membongkar konten hoaks berbasis AI.

Namun, kata dia, tidak semua tools atau layanan pendeteksi AI yang tersedia saat ini sifatnya inklusif. Adi menyebut, kebanyakan tools atau layanan AI itu memberlakukan sistem pendaftaran dan subscriptions atau pembayaran secara berkala kepada penggunanya.

"Untuk pemeriksa fakta sebenarnya akan sangat membantu kalau kemudian penyedia layanan AI itu memberikan layanan yang terbuka, sehingga bisa dimanfaatkan oleh siapa saja, tidak hanya oleh pemeriksa fakta, tapi juga warganet atau masyarakat biasa bisa menggunakan cara yang sama, tanpa harus membayar untuk melakukan pemeriksaan deepfake," Adi menambahkan.

Di tengah maraknya hoaks peran pers semakin krusial untuk memberikan informasi yang benar. Pers bisa menjadi pegangan ketika informasi yang diterima masih simpang siur dan meragukan.

"Setiap detiknya, Pers di Indonesia telah meluruskan berbagai disinformasi, fitnah dan kebencian lewat ribuan berita yang telah diverifikasi oleh dapur redaksi. Yang patut diapresiasi hampir semua media memberikan pelayanan cek fakta untuk masyarakat, utamanya media-media kredibel yang jelas alamat kantor dan susunan redaksinya," ujar Hariqo.

"Pers adalah benteng pertahanan bangsa Indonesia dari bahaya DFK dengan proses jurnalistik yang ketat yang menjamin akurasi dan kredibilitas. Selain itu Pers juga telah banyak memberikan kritik bahkan saran untuk berbagai program pemerintah," katanya menambahkan.

Untuk melindungi diri dari ancaman deepfake, kita perlu mengambil langkah-langkah pencegahan yang efektif. Berikut beberapa strategi yang dapat diterapkan:

Verifikasi sumber informasi: Sebelum mempercayai sebuah konten, periksa sumbernya. Apakah sumber tersebut terpercaya dan memiliki reputasi yang baik?

Gunakan alat deteksi deepfake: Sejumlah alat deteksi deepfake telah dikembangkan untuk membantu mengidentifikasi konten palsu. Meskipun tidak sempurna, alat-alat ini dapat memberikan lapisan keamanan tambahan.

Tingkatkan literasi digital: Pahami bagaimana teknologi deepfake bekerja dan bagaimana cara mengidentifikasinya. Dengan pengetahuan yang cukup, kita dapat lebih waspada terhadap konten yang mencurigakan.

Laporkan konten deepfake: Jika Anda menemukan konten deepfake, laporkan ke platform media sosial atau situs web tempat konten tersebut dibagikan.