Departemen Keuangan memperingatkan penipuan deepfake di bank sedang meningkat

Sebuah biro Departemen Keuangan memperingatkan bahwa deepfake memainkan peran yang lebih besar dalam penipuan yang menargetkan bank dan credit unions.

Jaringan Penegakan Kejahatan Keuangan mengeluarkan peringatan yang dirancang untuk membantu lembaga keuangan mengidentifikasi skema penipuan yang terkait dengan media deepfake, bergabung dengan lembaga pemerintah yang memperingatkan ancaman yang ditimbulkan oleh gambar Dan audio yang telah diubah dengan terampil agar tampak sah.

Fincen pada hari Rabu memasukkan teks dalam definisi deepfake dalam peringatannya, yang berfokus pada bagaimana penipu dapat menyesatkan bank tentang identitas mereka. Teknik deepfake mencakup manipulasi foto dokumen identitas dan teks yang dihasilkan AI di profil pelanggan atau sebagai respons terhadap perintah.

Peringatan seperti yang dirilis Fincen biasanya merupakan laporan pendahuluan yang mendokumentasikan sejauh mana dampak yang ditimbulkan oleh subjek (dalam hal ini, deepfake) terhadap lembaga keuangan, sehingga membantu mengukur berbagai risiko. Pada bulan September, Fincen dirilis sebuah analisis setelah dikeluarkan peringatan tahun lalu merinci dengan tepat bagaimana penjahat mencuri uang dari bank dan pelanggan menggunakan penipuan cek.

Meskipun tidak ada data yang dapat mengukur dampak finansial dari deepfake terhadap bank-bank dan credit unions di AS, bukti-bukti dan peringatan dari penegak hukum menunjukkan bahwa deepfake merupakan ancaman besar. Tahun lalu, FBI, Badan Keamanan Nasional dan Badan Keamanan Siber dan Infrastruktur merilis laporan bersama mendokumentasikan dampak deepfake terhadap berbagai organisasi.

Pelaku kejahatan secara aktif mengeksploitasi teknologi deepfake untuk menipu bisnis dan konsumen AS, menurut Direktur Fincen Andrea Gacki.

“Kewaspadaan lembaga keuangan terhadap penggunaan deepfake, dan pelaporan aktivitas mencurigakan terkait, akan membantu menjaga sistem keuangan AS dan melindungi warga Amerika yang tidak bersalah dari penyalahgunaan alat ini,” kata Gacki dalam peringatannya.

Meskipun deepfake sudah ada selama bertahun-tahunmereka menjadi lebih terkenal akhir-akhir ini berkat kemajuan teknologi AI yang membuatnya lebih meyakinkan dan produk yang membuat teknologi tersebut tersedia lebih luas, menurut Rijul Gupta, CEO dan salah satu pendiri perusahaan komunikasi AI DeepMedia.

“Deepfake menjadi lebih canggih – dan lebih mudah dibuat – selama bertahun-tahun,” kata Gupta. “Saat ini, seorang peretas dapat memanipulasi suara seseorang hanya dengan menggunakan audio dalam hitungan detik.”

Memang, audio deepfake punya belakangan ini menjadi perhatian khusus bagi bank, terutama yang menggunakan teknologi voiceprinting untuk mengautentikasi nasabah menggunakan suaranya. Bahkan ketika bank tidak mengautentikasi pelanggannya menggunakan voiceprint, perusahaan yang berspesialisasi dalam mendeteksi deepfake telah mendeteksi audio yang dihasilkan AI digunakan pada pusat panggilan bank, untuk mencoba mengelabui karyawan.

Dalam peringatannya, Fincen memperingatkan terhadap audio tetapi juga menyoroti bahwa penipu dapat memanipulasi dan mensintesis gambar dan bahkan video langsung dari wajah atau dokumen identitas seseorang. Bank terkadang menggunakan pemeriksaan verifikasi langsung ini untuk mengautentikasi pengguna.

Meskipun metode untuk menghasilkan deepfake ini sering kali sudah canggih, metode ini masih menyisakan artefak yang dapat digunakan oleh bank dan credit unions untuk mendeteksi penggunaan AI generatif. Misalnya, foto pelanggan mungkin memiliki ketidakkonsistenan internal (visual menunjukkan bahwa gambar tersebut diubah), tidak konsisten dengan informasi identitas lainnya (seperti tanggal lahir pelanggan), atau tidak konsisten dengan dokumen identitas lain milik pelanggan.

Fincen menyoroti tanda bahaya lain bahwa penipu menggunakan teknologi deepfake. Misalnya, “pelanggan” mungkin menggunakan plug-in webcam pihak ketiga selama pemeriksaan verifikasi langsung (menunjukkan bahwa mereka mungkin menggunakan perangkat lunak untuk membuat gambar langsung daripada umpan video sebenarnya), atau pengguna mencoba mengubah metode komunikasi selama verifikasi langsung karena dugaan gangguan. Pencarian gambar terbalik mungkin cocok dengan galeri online wajah generatif yang diproduksi oleh AI.

Tanda bahaya yang umumnya berlaku pada skema penipuan juga berlaku pada skema deepfake. Misalnya, jika data geografis atau perangkat pelanggan tidak sesuai dengan dokumen identitas mereka, atau akun yang baru dibuka atau akun dengan sedikit riwayat transaksi sebelumnya tiba-tiba menerima volume pembayaran yang tinggi kepada penerima pembayaran yang berpotensi berisiko, seperti situs perjudian atau bursa aset digital.

Setiap kali lembaga keuangan mengajukan SAR yang melibatkan deepfakes, Fincen meminta mereka menyertakan istilah kunci “FIN-2024-DEEPFAKEFRAUD” di bidang SAR 2 (“Catatan Lembaga Pengarsipan untuk Fincen”) untuk memastikan laporan tersebut disertakan dalam analisis data yang diharapkan biro akan dirilis.