Deepfake: Cara Menilai Video, Imej dan Audio yang Mencurigakan.

🛡️ AI SAFETY • SUPPORTING GUIDE • BEGINNER

Cara memahami media deepfake dan mengesahkan kandungan sebelum mempercayai atau berkongsinya.

Oleh Nobodynaga 

Ringkasan

Deepfake ialah imej, video atau audio yang dijana atau diubah menggunakan teknik AI untuk menyerupai seseorang atau keadaan sebenar. Istilah ini sering digunakan untuk kandungan yang mengelirukan, tetapi media sintetik juga boleh digunakan secara sah dalam hiburan, pendidikan dan aksesibiliti.

Jangan tentukan kesahihan media hanya melalui rupa, suara atau satu alat pengesan. Semak sumber asal, konteks dan pengesahan bebas. Jika kandungan meminta wang, maklumat sulit atau tindakan segera, sahkan permintaan melalui saluran lain sebelum bertindak.

Apakah yang dimaksudkan dengan deepfake?

Deepfake ialah sejenis media sintetik atau media yang dimanipulasi. AI boleh digunakan untuk menukar wajah, menghasilkan imej atau video baharu, atau meniru suara. Ada kandungan yang mengubah rakaman sebenar; ada juga yang dijana daripada arahan dan bahan rujukan. Oleh itu, tidak semua deepfake dibuat dengan proses atau model yang sama.

Teknologi ini tidak semestinya berniat jahat. Risiko timbul apabila kandungan digunakan untuk menyamar, memperdaya, memalukan atau menjejaskan seseorang, atau apabila penonton menganggap media itu sebagai bukti tanpa menyemak asal-usul dan konteksnya.

Di mana risiko praktikal muncul?

• Penyamaran dan penipuan: imej, video atau suara tiruan boleh digunakan untuk membina kepercayaan sebelum meminta wang atau maklumat.
• Maklumat mengelirukan: klip yang dipotong atau diubah boleh membuat seseorang kelihatan berkata atau melakukan perkara yang berbeza daripada peristiwa asal.
• Gangguan dan penyalahgunaan imej: media sintetik boleh digunakan untuk memalukan, mengugut atau menyasarkan individu tanpa persetujuan.
• Kesan terhadap kepercayaan: dakwaan bahawa sesuatu rakaman “mungkin deepfake” juga boleh digunakan untuk menolak bukti sebenar. Semakan perlu berdasarkan bukti, bukan sangkaan.

FBI memberi amaran bahawa penjenayah menggunakan kandungan AI, termasuk media palsu, dalam penyamaran serta penipuan kewangan. Ini tidak bermakna setiap video pelik atau mesej tular ialah deepfake; dakwaan khusus masih perlu disahkan.

Semak sebelum mempercayai atau berkongsi

1. Berhenti seketika. Jangan terus berkongsi kandungan mengejutkan atau membuat keputusan wang berdasarkan satu klip.
2. Cari sumber terawal. Periksa siapa yang mula-mula menyiarkan, tarikh, konteks dan sama ada versi penuh tersedia.
3. Bandingkan dengan bukti bebas. Cari kenyataan daripada pihak yang dinamakan, sumber berita bereputasi atau rekod peristiwa yang berkaitan.
4. Sahkan permintaan secara berasingan. Gunakan nombor atau saluran rasmi yang sudah diketahui, bukan maklumat yang disertakan dalam mesej mencurigakan.
5. Jangan anggap petunjuk visual sebagai bukti. Gerakan bibir, pencahayaan, tepi wajah atau suara yang tidak sekata boleh menjadi sebab untuk menyiasat, tetapi juga boleh berpunca daripada rakaman, mampatan atau suntingan biasa.
6. Nyatakan ketidakpastian dengan tepat. Jika bukti belum cukup, sebut “belum disahkan”; jangan terus melabel individu atau kandungan sebagai palsu.

Adakah alat pengesan boleh memberi keputusan muktamad?

Tidak. Pengesan automatik boleh membantu penyiasatan, tetapi keputusannya bergantung pada jenis kandungan dan kaedah yang digunakan. Alat boleh memberikan amaran palsu atau terlepas kandungan yang telah diubah. Gunakannya sebagai satu petunjuk bersama semakan sumber, konteks dan bukti lain—bukan sebagai pengganti semakan manusia.

Content Credentials berasaskan piawaian C2PA boleh merekodkan maklumat provenance seperti bagaimana media dicipta atau diubah apabila maklumat itu tersedia. C2PA menjelaskan bahawa provenance tidak menentukan sama ada kandungan itu benar atau dakwaannya tepat. Ketiadaan Content Credentials juga tidak membuktikan media itu palsu.

Jika anda atau orang lain menjadi sasaran

• Simpan pautan, nama akaun, tarikh dan mesej berkaitan dengan selamat.
• Laporkan kandungan kepada platform; minta bantuan orang dipercayai jika kandungan melibatkan ugutan atau gangguan.
• Jangan edarkan semula imej intim atau kandungan yang menyasarkan kanak-kanak. Laporkan melalui saluran platform dan dapatkan bantuan pihak perlindungan atau penguat kuasa yang sesuai.
• Jika wang atau akaun terlibat, hubungi bank atau penyedia akaun melalui saluran rasmi secepat mungkin.

Contoh simulasi: klip arahan bayaran

Nota: Ini contoh rekaan untuk menerangkan langkah semakan, bukan laporan ujian atau kes sebenar.

Seorang pekerja menerima klip pendek yang kelihatan menunjukkan pengurus meminta bayaran segera kepada akaun baharu. Pekerja itu tidak cuba membuat keputusan daripada rupa wajah sahaja. Dia menyemak arahan melalui nombor pejabat yang telah disimpan dan mengikut proses kelulusan pembayaran biasa. Bayaran hanya diproses selepas penerima serta tujuan disahkan.

Soalan lazim

Adakah semua deepfake berbahaya?

Tidak. Penggunaan media sintetik boleh mempunyai tujuan kreatif atau aksesibiliti. Persetujuan, konteks, pendedahan yang jelas dan kesan kepada orang yang digambarkan tetap perlu dipertimbangkan.

Bolehkah saya mengenal pasti deepfake hanya dengan melihatnya?

Kadang-kadang terdapat petunjuk, tetapi kualiti media dan kaedah penghasilan berubah. Pemeriksaan visual sahaja tidak cukup untuk mengesahkan asal-usul.

Adakah deepfake sama dengan voice cloning?

Voice cloning ialah peniruan atau penjanaan suara. Ia boleh menjadi salah satu bentuk media sintetik dan boleh dibincangkan secara khusus dalam panduan Voice Cloning.

Rujukan

• FBI IC3: Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud
• C2PA: Frequently Asked Questions
• FBI IC3 dan ABA Foundation: Deepfake Scam Awareness

Kesimpulan

Deepfake menjadikan media digital lebih mudah dijana dan diubah, tetapi rupa atau suara yang meyakinkan tidak membuktikan identiti mahupun kebenaran sesuatu dakwaan. Semak sumber, konteks dan bukti secara berasingan sebelum berkongsi atau bertindak. Jika ada permintaan wang atau maklumat, sahkan melalui saluran yang telah dipercayai.

Artikel berkaitan:

• Voice Cloning 
•  AI Scam 
•  AI Safety Hub