Bagaimana AI “tersembunyi” di bank dapat menyebabkan masalah

Kecerdasan buatan tampaknya ada di mana-mana. Kadang-kadang bahkan tersembunyi di tempat yang mudah terlihat.

Teknologi dan proses yang diandalkan bank, termasuk transkripsi panggilan layanan pelanggan, alat pemasaran, pengambilan keputusan kredit, alat keamanan siber, dan pencegahan penipuan, dapat menggabungkan AI dengan cara yang tidak dipahami oleh setiap pengguna atau karyawan di bank. Produk lain berada di area abu-abu atau “tergantung”, seperti chatbotyang dapat bersifat statis dengan pertanyaan-pertanyaan yang telah diprogram atau lebih bersifat percakapan.

Cara AI generatif muncul kurang dari tiga tahun lalu berarti “siapa pun yang memiliki akses ke internet saat ini dapat mengakses alat seperti ChatGPT atau Gemini milik Google, secara gratis dan dengan daya pemrosesan luar biasa yang sebelumnya tidak dapat mereka miliki,” kata Chris Calabia, penasihat senior untuk Alliance for Innovative Regulation. “Mungkin saja staf Anda bereksperimen dengan ChatGPT untuk membantu mereka menulis laporan dan menganalisis data.”

Aspek-aspek “tersembunyi” dari AI ini penting karena bank harus menyadari dimana AI tertanam dalam operasi mereka dan dimana AI tidak tertanam. A gelombang legislasi mendekati risiko AI, terutama Perlindungan Konsumen Colorado untuk Kecerdasan Buatan di AS dan Undang-Undang Kecerdasan Buatan di Uni Eropa.

“Bank perlu memperhatikan dan memiliki definisi yang sesuai dengan peraturan tersebut atau mereka bisa saja tidak dapat memenuhinya,” kata Scott Zoldi, kepala analis di FICO.

Ada juga pertanyaan tentang menjaga kepercayaan pelanggan dan memastikan penggunaan yang bertanggung jawab.

Saat menerapkan AI, “harus ada proses paralel untuk memastikan Anda memiliki pembatas, kepatuhan, dan tata kelola risiko yang tepat, sehingga Anda tidak mengembangkan solusi yang akan menjadi racun atau melanggar informasi identitas pribadi,” kata Larry Lerner, mitra di McKinsey.

Memahami apa itu AI

Sejarah AI dalam perbankan sudah ada sejak puluhan tahun yang lalu.

Sistem jenis AI dasar, yang kemudian disebut ‘sistem pakar’, telah ada dalam layanan keuangan sejak tahun 1980-an, kata Calabia, untuk membantu perencana keuangan membuat rencana untuk kebutuhan perencanaan keuangan individu.

“Sistem ini dirancang untuk meniru proses pengambilan keputusan manusia,” katanya.

Seiring dengan perkembangan AI, definisinya pun ikut berkembang. Bahkan sekarang, sulit untuk menentukan pemahaman umum tentang AI.

“Orang-orang berbicara mengenai AI ketika yang mereka maksud adalah perangkat lunak atau analitik,” kata Zoldi.

Oktober 2023 Perintah Eksekutif Gedung Putih tentang AI mendefinisikannya sebagai sistem berbasis mesin yang dapat, untuk serangkaian tujuan yang ditentukan manusia, membuat prediksi, rekomendasi, atau keputusan yang memengaruhi lingkungan nyata atau virtual.

Itu Laporan bulan Maret tentang AI dan keamanan siber dari Departemen Keuangan AS menyoroti masalah dalam mengidentifikasi dan mendefinisikan AI dalam sistem perbankan, kata Rafael DeLeon, wakil presiden senior keterlibatan industri dari penyedia perangkat lunak manajemen kinerja risiko Ncontracts.

Laporan tersebut mencatat bahwa “tidak ada kesepakatan yang seragam di antara para peserta dalam penelitian mengenai makna ‘kecerdasan buatan’,” dan meskipun definisi Gedung Putih “luas, definisi tersebut mungkin masih belum mencakup semua konsep berbeda yang terkait dengan istilah ‘kecerdasan buatan’.”

Laporan itu juga mengakui adanya pencampuran.

“Komentar terkini seputar kemajuan teknologi AI sering kali menggunakan ‘kecerdasan buatan’ secara bergantian dengan ‘AI Generatif’,” catatnya.

Tanpa leksikon umum, bank mungkin kesulitan untuk menilai dan mengelola risiko yang terkait dengan sistem AI, mematuhi peraturan terkait AI yang sedang berkembang, berkomunikasi secara efektif dengan regulator dan vendor pihak ketiga tentang penggunaan AI, dan membuat keputusan yang tepat tentang adopsi dan implementasi AI, kata DeLeon.

“AI merupakan gelombang yang telah menguasai kita dan kini kami tengah berupaya berenang untuk mencapai puncak,” kata DeLeon.

Di FICOZoldi mendefinisikan AI sebagai proses atau perangkat lunak apa pun yang dapat menghasilkan tugas dengan kinerja super. Pembelajaran mesin adalah subkelas AI yang, tidak seperti AI, tidak diprogram oleh manusia. Pembelajaran mesin mengacu pada algoritme yang mempelajari sendiri hubungan dalam data dan belum tentu dapat dijelaskan atau transparan.

“Sangat sering ketika orang berbicara tentang AI di kalangan regulasi, mereka berbicara tentang pembelajaran mesin dan model yang belajar sendiri,” kata Zoldi.

Apakah mereka menggunakan AI tradisional, AI generatif, atau pembelajaran mesin, Zoldi menemukan, “beberapa bank tidak dalam posisi yang baik untuk menjelaskan model pada tingkat pengawasan tertentu yang akan memenuhi peraturan kredit yang ada saat ini.”

Meskipun AI generatif sedang menjadi tren, “AI generatif hanya sebagian kecil dari yang digunakan bank,” kata Zoldi. “Di balik layar, 90 hingga 95% AI di bank adalah model yang menggunakan jaringan saraf dan pohon yang diperkuat gradien stokastik.” Baik jaringan saraf maupun model berbasis pohon mempelajari sendiri hubungan non-linier berdasarkan data historis untuk menghasilkan prediksi di masa mendatang.

Bagaimana bank dapat menemukan kejelasan

“Bank perlu memastikan model yang mereka gunakan adil dan etis,” kata Zoldi.

Untuk memulai, bank dapat melakukan inventarisasi di seluruh lini bisnis mereka mengenai proses atau operasi apa yang menggunakan AI atau pembelajaran mesin. Mereka juga harus membuat satu set standar untuk penggunaan yang akan mengatur pengembangan model dan untuk menentukan kapan model menjadi berbahaya atau harus dihapus.

Lebih mudah diucapkan daripada dilakukan.

Bankwell Bank di New Canaan, Connecticut, tengah bereksperimen dengan AI dan AI generatif untuk pinjaman usaha kecil, penjualan dan pemasaran, penjaminan emisi, dan banyak lagi. Bank dengan aset senilai $3,2 miliar ini telah mengemukakan diskusi tentang AI dan AI generatif di balai kotanya, jadi “semua orang mulai dari rekanan cabang hingga manajemen senior mulai memikirkan beberapa kasus penggunaan ini,” kata kepala bagian inovasi Ryan Hildebrand. “Namun, kami belum (mengatakan), ‘ini buku panduan dengan definisi AI dan bagaimana AI digunakan serta bagaimana membicarakannya. Kami masih dalam tahap awal.”

Kim Kirk, kepala operasi Queensborough National Bank & Trust Company di Louisville, Georgia, telah meminta penyedia pemantauan penipuan cek untuk diagram aliran data guna memahami di mana informasi berada dan bagaimana informasi tersebut dimanipulasi. Ia menemukan bahwa keamanan siber dan pencegahan penipuan adalah dua area yang umum digunakan AI.

“Bankir harus memahami arsitektur dasar solusi yang mereka beli dari penyedia layanan pihak ketiga, karena pada akhirnya itulah tanggung jawab kami untuk melindungi informasi nasabah,” katanya.

Itu Gangguan CrowdStrike baru-baru ini berfungsi sebagai pengingat bahwa bank harus memahami di mana kerentanan dan celah keamanan untuk vendor pihak ketiga dan keempat berbohong.

Aset senilai $2,1 miliar di Queensborough bukanlah pembeli langsung CrowdStrike, “tapi mereka adalah pihak keempat bagi kami” kata Kirk. “Ketika terjadi masalah, bank perlu memahami apakah bank tersebut terkena dampaknya.”

Fokus pada AI oleh pemerintah juga menggarisbawahi perlunya bank untuk mendaftarkan penggunaannya.

“Bankir harus memiliki pengetahuan tentang lingkungan makro yang terjadi dengan AI,” kata Kirk. “Peledakan AI dalam beberapa tahun terakhir sangat besar. Semua orang berusaha untuk menguasainya dari perspektif tata kelola untuk memastikan kami melindungi informasi pelanggan kami dengan tepat.”

Ukuran lembaga keuangan tidak selalu berkorelasi dengan kecanggihannya dalam penggunaan AI. Lerner, misalnya, terkesan ketika ia baru-baru ini berbicara dengan sebuah koperasi kredit menengah tentang AI.

“Saya sangat terkejut karena mereka sudah memiliki pusat keunggulan,” katanya. “Mereka mulai bereksperimen dengan percepatan kode dengan AI generatif, dan mereka sudah berbicara dengan kelompok risiko dan regulasi untuk mengembangkan serangkaian pembatas awal.”