Industri perbankan belum siap untuk melawan Deepfake yang mendukung AI

Pada awal 2024, multinasional yang berbasis di Hong Kong ditipu sebesar $ 25 juta Setelah seorang karyawan tertipu untuk bergabung dengan panggilan video dengan apa yang tampaknya menjadi CFO perusahaan dan kolega lainnya. Twist? Setiap peserta dalam panggilan kecuali korban adalah Deepfake yang dihasilkan AI. Ini bukan film pencurian Hollywood. Itu nyata.

Industri keuangan sekarang masuk Era Penipuan Barudi mana kecerdasan buatan tidak lagi hanya alat untuk efisiensi. Itu juga senjata. Karena alat AI generatif menjadi lebih canggih dan dapat diakses, demikian juga taktik penipuan digunakan melawan bank dan pelanggan mereka. Deepfakes – media sintetis hyperrealistik yang meniru suara, wajah, dan seluruh identitas – adalah vektor ancaman terbaru dalam ekosistem penipuan. Dan jika bank tidak persiapan secara agresif sekarang, mereka berisiko tertangkap basah.

Hanya dua tahun yang lalu, Deepfake sebagian besar dikaitkan dengan meme virus atau peniruan selebriti. Hari ini, mereka digunakan untuk menempa identitas pelanggan, video kepatuhan palsu dan menyamar sebagai eksekutif untuk penipuan kawat. Di sektor yang bergantung pada kepercayaan dan verifikasi, ini menyajikan skenario berbahaya yang unik. Seorang penipu tidak perlu lagi melanggar sistem; Mereka hanya perlu meyakinkan karyawan bank bahwa permintaan penipuan datang dari seseorang yang akrab.

Tidak seperti email phishing atau panggilan rekayasa sosial, DeepFakes menarik bagi indera yang paling kita percayai: penglihatan dan suara. Otak manusia terhubung untuk mempercayai apa yang mereka lihat dan dengar. Ketika itu tidak bisa lagi dipercaya, mekanisme deteksi penipuan tradisional dan intuisi manusia mungkin tidak cukup.

Bank telah membuat langkah terpuji dalam mengamankan infrastruktur digital. Otentikasi multifaktor, biometrik dan analitik perilaku telah menjadi taruhan tabel. Tapi serangan penipuan Deepfake menargetkan tautan terlemah: orang. Ketika seorang karyawan bank melihat wajah eksekutif tepercaya di layar, mendengar suara mereka yang akrab dan menerima permintaan yang masuk akal, kecenderungannya adalah untuk mematuhi, bukan pertanyaan.

Selain itu, banyak proses internal masih sangat bergantung pada validasi manual, terutama di segmen yang dikelola hubungan seperti perbankan perusahaan dan manajemen kekayaan. Ini adalah lingkungan di mana penipuan Deepfake kemungkinan besar akan berhasil.

Terlepas dari risiko yang semakin besar, kerangka kerja peraturan yang membahas media sintetis yang dihasilkan AI tetap terfragmentasi dan reaktif. Sementara SEC dan FinCen telah mengeluarkan panduan umum tentang risiko AI dan keamanan siber, beberapa spesifik membahas Deepfake secara langsung. Ini membuat bank dalam posisi yang sulit sendiri untuk membangun pertahanan.

Kami telah melihat jeda yang sama sebelumnya. Pada awal 2010 -an, sektor keuangan meremehkan munculnya rekayasa sosial dan penipuan kompromi email bisnis. Tidak sampai miliaran hilang, respons industri di seluruh industri. Kami tidak dapat mengulangi kesalahan itu.

Industri perbankan perlu beralih dari reaktif ke postur proaktif tidak hanya dalam teknologi tetapi dalam tata kelola, pelatihan, dan kolaborasi. Transaksi atau persetujuan berisiko tinggi harus membutuhkan lebih dari sekadar konfirmasi audiovisual. Bank harus mengadopsi verifikasi multichannel seperti konfirmasi kedua melalui media terpisah, atau alur kerja transaksi yang dijamin blockchain yang tidak dapat dipalsukan oleh input audiovisual.

Sama seperti tim anti-penipuan menggunakan pembelajaran mesin untuk mendeteksi anomali dalam perilaku keuangan, mereka sekarang juga harus menggunakan AI untuk melihat tanda-tanda media sintetis. Beberapa alat yang digerakkan AI dapat mendeteksi penyimpangan piksel, artefak kloning suara atau ekspresi wajah yang tidak wajar. Staf harus dilatih untuk mempertanyakan panggilan video dan instruksi audio sama seperti mereka diajarkan untuk meneliti email yang mencurigakan satu dekade yang lalu. Verifikasi harus mengalahkan kenyamanan, terutama untuk permintaan yang tidak biasa atau transfer bernilai tinggi. Taktik penipu berkembang dengan cepat. Bank harus bekerja dengan regulator, penyedia telekomunikasi dan perusahaan keamanan siber untuk berbagi pola ancaman dan model deteksi. Semakin cepat satu institusi melihat Deepfake, semakin siap industri lainnya.

Pada akhirnya, bertahan melawan penipuan Deepfake bukan hanya tentang peningkatan alat; Ini tentang pergeseran pola pikir. Industri keuangan telah lama menghargai efisiensi, kecepatan, dan responsif klien. Tetapi di zaman AI generatif, skeptisisme harus menjadi kompetensi inti. Dosis keraguan yang sehat mungkin merupakan pertahanan terbaik terhadap kebohongan paling meyakinkan yang pernah diproduksi.

Jika seorang penipu dapat menyamar sebagai CEO yang cukup meyakinkan untuk mengizinkan transfer kawat, maka setiap transaksi dan setiap proses berbasis kepercayaan sekarang dipertanyakan. Ilusi konfirmasi visual tidak lagi cukup. Bank harus beradaptasi dengan dunia di mana melihat tidak lagi percaya.

Penipuan bank miliaran dolar berikutnya mungkin tidak dilakukan dengan malware. Mungkin disamarkan sebagai bos di zoom.