Regulator bank mempunyai konsep rencana untuk menangani AI

Bertahun-tahun yang lalu ketika saya masih kuliah, saya bekerja di sebuah kapal nelayan sewaan selama musim panas. Saya belajar banyak hal selama bulan-bulan itu — cara mengikat tali dan menjaring ikan, cara memotong umpan dan menimbang jangkar, berbagai jenis ikan di Teluk Chesapeake, kapan mereka berlari, dan mana yang bergigi tajam. Namun dua pelajaran terpenting yang saya pelajari adalah, pertama, saya tidak mampu mencari nafkah melalui pekerjaan kasar, dan kedua, kebingungan karena percaya diri adalah alternatif yang cocok untuk keahlian. Atau, seperti yang dikatakan teman pertama yang melatih saya, “Jika Anda tidak bisa membuat mereka terpesona dengan kecemerlangan, buatlah mereka bingung dengan (omong kosong).”

Pekan lalu, tampaknya semua regulator bank federal yang ada saat ini dan yang sudah keluar menawarkan pemikiran mereka tentang masa depan kecerdasan buatan dalam jasa keuangan, yang sebagian diselenggarakan oleh konferensi mengenai subjek ini dari lembaga pemikir DC, FinRegLab. Topiknya tepat waktu dan penting — debut publik AI generatif dua tahun lalu meninggalkan sebuah seru dan kadang-kadang menakutkan kesannya di dunia, seperti halnya api, roda, dan telepon ketika mereka melakukan debut. Namun bagaimana terobosan ini akan mengubah layanan keuangan dan bagaimana regulator akan melakukan pendekatan terhadap teknologi baru ini masih belum dijelaskan.

Potensi kasus penggunaan AI bermacam-macam. Bank telah menggunakan pembelajaran mesin dan kecerdasan buatan selama bertahun-tahun dalam aplikasi berisiko rendah seperti chatbot layanan pelanggan dan penyaringan penipuan, namun belum memasukkan teknologi tersebut ke dalam aplikasi yang lebih berpusat pada bisnis seperti penjaminan pinjaman atau kepatuhan AML. Manfaat penggunaan AI mudah untuk dipahami: jika sebuah mesin dapat melakukan pekerjaan yang lebih baik atau lebih cepat dalam mendeteksi operasi pencucian uang atau menyetujui peminjam yang layak mendapatkan kredit, itu adalah hal yang baik. Kelemahannya juga mudah untuk dipahami: jika AI akhirnya mengarahkan semua bank untuk melakukan kesalahan kehati-hatian yang sama, itu adalah hal yang buruk. Oleh karena itu, terdapat risiko bagi regulator karena terlalu berhati-hati dalam mengizinkan bank untuk mencoba AI dalam peran yang lebih penting – bank lain di negara lain dapat memperoleh keunggulan kompetitif – dan memiliki risiko yang sama, yang dapat mengimbangi risiko tersebut karena terlalu permisif.

Paragraf di atas mewakili konsensus di antara regulator dan anggota parlemen tentang pentingnya mengatasi AI di perbankan, dan menurut saya ada juga konsensus tentang apa yang harus dilakukan selanjutnya. Senator Mike Rounds, RS.D., memuji pendapatnya tagihan kotak pasir peraturan minggu lalu, mereka membahas kerangka kerja yang memungkinkan bank dan perusahaan jasa keuangan lainnya dapat mencoba ide-ide baru dalam menerapkan AI pada penawaran mereka tanpa takut akan tindakan balasan jika segala sesuatunya tidak berjalan sesuai rencana.

“Pengawasan yang dilakukan oleh lembaga-lembaga tersebut adalah ‘Oke, inilah yang ingin kami kejar,’ jadi ini adalah usaha patungan, dan semua orang menang,” kata Rounds. “Anda ingin mereka menawarkan produk dan layanan ini kepada Anda, tetapi jika mereka dibatasi karena pengawasan peraturan – hal ini tidak diperbolehkan, kami tidak tahu bagaimana melakukannya – maka kami tidak akan pernah maju, dan orang lain di negara lain akan melakukan hal ini kepada kita.”

Penjabat Pengawas Keuangan Mata Uang Michael Hsu — yang panelnya segera mengikuti komentar Rounds — mengatakan hal yang kurang lebih samanamun menekankan bahwa “sandbox” peraturan apa pun tidak boleh menghilangkan tanggung jawab bank sama sekali.

“(Kita perlu) pembelajaran yang diawasi sebagai pengatur, di mana kita berada di ruang di mana kita belajar bersama ketika hal-hal ini sedang dikembangkan, daripada memberikan izin untuk (kotak pasir) dan kemudian jika sesuatu yang buruk terjadi, kata seseorang, ‘Tidak, kamu bilang padaku semuanya akan baik-baik saja,'” kata Hsu. “Saya pikir ini memerlukan lebih banyak keterlibatan interaktif agar bisa berhasil.”

Wakil ketua pengawasan Federal Reserve Michael Barr menekankan bahwa risiko terbesar yang ditimbulkan oleh AI adalah jika sejumlah model yang bekerja kurang lebih sama mengambil lebih banyak fungsi – dan menjalankan fungsi-fungsi tersebut dengan cepat dan otomatis – maka kesalahan kecil dapat terjadi. menyebabkan kegagalan beruntun dalam sistem keuangan yang mungkin tidak akan terjadi jika manusialah yang memegang kendali.

“Anda mungkin khawatir tentang model AI generatif yang sangat terkonsentrasi dan berkorelasi satu sama lain, dan jika Anda memiliki beberapa model AI generatif … dan penggunaan model tersebut di mana-mana, Anda akan menghadapi risiko nyata bahwa Anda akan melihat perilaku herding. di pasar, dan AI generatif mungkin memfasilitasi penularan di pasar,” kata Barr. “Jika Anda menggabungkan hal tersebut dengan kecepatan, yang sudah ada di pasar, dan otomatisitas – yaitu, mengeluarkan manusia dari lingkaran yang tidak ada di pasar – hal ini dapat menjadi resep nyata bagi ketidakstabilan dalam sistem keuangan. .”

Gubernur Federal Reserve Michelle Bowman – yang ditunjuk Trump dan memiliki suara berbeda di dewan Fed – menyatakan hal tersebut pidatonya sendiri tentang AI Jumat lalu di acara terpisah, menekankan bahwa mengatur AI sebagai suatu kategori kurang masuk akal dibandingkan mempertimbangkan risiko dan manfaat setiap kasus penggunaan secara individual.

“Kita harus memiliki keterbukaan terhadap penerapan AI,” kata Bowman. “Kita harus menghindari terpaku pada teknologi dan fokus pada risiko yang ditimbulkan oleh kasus penggunaan yang berbeda. Risiko ini mungkin dipengaruhi oleh sejumlah faktor, termasuk ruang lingkup dan konsekuensi dari kasus penggunaan, data mendasar yang diandalkan, dan kemampuan perusahaan untuk mengelola risiko ini dengan tepat.”

Bagi saya, hal yang menarik dari komentar-komentar ini adalah bahwa keduanya tidak bertentangan — semua orang ingin menghindari bencana, tidak ada yang mau ketinggalan, kita tidak bisa melarang AI begitu saja, dan kita tidak bisa membiarkan bank melakukan apa pun yang mereka inginkan. inginkan dan lepas dari tanggung jawab. Namun permasalahannya adalah tidak satu pun dari orang-orang ini yang benar-benar diberi wewenang untuk mengartikulasikan bagaimana aparat pembuat kebijakan akan bergerak maju ke depan, karena mereka hanya diberi wewenang untuk menekankan satu atau beberapa aspek dari tantangan tersebut.

Hal yang paling menakutkan mengenai AI adalah bahwa AI merupakan hal yang baru, dan hal-hal baru bisa jadi menakutkan karena kita belum mengetahui cara kerjanya — manusia telah ketakutan serupa seputar listrik ketika pertama kali menjadi hal biasa. Hal-hal baru juga dapat mengilhami optimisme yang tidak berdasar bahwa hal-hal tersebut dapat menyelesaikan semua permasalahan kita secara cepat – sebuah atribut yang diterapkan pada radiasi ketika pertama kali ditemukan, dengan hasil yang membawa malapetaka.

Namun siap atau tidak, AI akan hadir di industri perbankan, dan meskipun kita mungkin akan meminta regulator dan anggota parlemen untuk memberi tahu kita bagaimana hal ini akan terjadi, kita tidak tahu karena sebagian besar dari kita belum mencobanya. . Bank sedang menunggu lampu hijau dari regulator untuk mencoba hal-hal baru tanpa menanamkan benih-benih tindakan penegakan hukum di masa depan, sementara regulator ingin memberikan lampu hijau segera setelah mereka tidak menanam benih-benih bencana ekonomi di masa depan. Namun cepat atau lambat kita akan mengambil lompatan tersebut. Yang dicari semua orang adalah sedikit dorongan.