Bank memiliki kesempatan penting untuk memimpin keselamatan AI

Administrasi Trump Pencabutan Perintah Keselamatan AI Administrasi Biden Mungkin terdengar seperti lampu hijau untuk inovasi yang tidak diatur. Tetapi memiliki lebih sedikit aturan pemerintah tidak berarti bank bebas dari tanggung jawab. Faktanya, mungkin momen langka bagi industri untuk menetapkan standar tinggi sendiri untuk digunakan kecerdasan buatan – Terutama sekarang karena keputusan besar tentang keadilan dan transparansi adalah bank yang harus dibuat.

Jasa keuangan sudah bergantung pada AI untuk tugas -tugas penting, dari menyetujui pinjaman hingga mendeteksi penipuan. Algoritma yang disesuaikan dengan baik dapat memangkas biaya operasi dan meningkatkan kepuasan pelanggan. Namun model yang berisiko, tidak dicentang, dapat mendiskriminasi kelompok -kelompok tertentu atau membuat keputusan membingungkan yang mengikis kepercayaan. Pesanan Biden, meskipun tidak sempurna, menawarkan kerangka kerja dasar seputar transparansi model dan pemeriksaan keselamatan. Menghapus kerangka itu menempatkan pekerjaan pengaturan diri di tangan bankir dan tim kepatuhan.

Mengapa ini menjadi hal yang baik? Pertama, bank dapat membentuk pedoman yang bergerak pada kecepatan yang sama Proyek AI mereka yang berkembang. Aturan federal seringkali tertinggal dari perubahan teknologi, memaksa bankir untuk menavigasi mandat yang sudah ketinggalan zaman atau menunggu pembaruan aturan. Jika bank menjalankan AI untuk deteksi penipuan, misalnya, terjebak dengan panduan yang bergerak lambat, satu ukuran untuk semua dapat menahannya. Sekarang, bank dapat menyesuaikan kebijakan yang lebih fleksibel yang berkembang dengan cepat dengan setiap sumber data baru atau peningkatan model.

Kedua, industri yang menetapkan standarnya sendiri untuk keselamatan AI dapat meningkatkan kepercayaan publik. Publik mungkin berpikir bank akan melompat pada kesempatan untuk mengambil jalan pintas, tetapi perbankan modern berkembang dengan reputasi. Satu kegagalan AI – di mana sekelompok besar pelanggan secara keliru ditolak akun atau ditampar dengan biaya yang tidak adil – dapat memicu kegemparan nasional. Dengan mempublikasikan bahwa Anda menguji model AI untuk keadilan, bias dan akurasi, bank dapat memposisikan dirinya sebagai pemimpin dalam perlindungan konsumen. Ini lebih penting dari sebelumnya, karena pelanggan semakin mengharapkan layanan yang dipersonalisasi (seperti penawaran pinjaman dinamis) tanpa menyerahkan privasi data mereka atau berurusan dengan keputusan yang sewenang -wenang.

Ketiga, pengaturan diri tidak harus kesepian atau kacau. Bank dapat bersatu – mungkin di bawah asosiasi industri – untuk menciptakan praktik terbaik bersama untuk AI dalam layanan keuangan. Pikirkan tentang bagaimana jaringan pembayaran atau inisiatif anti-pencucian uang sering melibatkan kerja sama di seluruh sektor ini. Jika banyak bank mengadopsi prinsip serupa di sekitar interpretabilitas dan tata kelola data, itu meyakinkan regulator dan publik bahwa semua orang menganggap risiko AI dengan serius. Pada gilirannya, persatuan itu dapat mengurangi peluang mandat tangan berat di masa depan, karena anggota parlemen dapat melihat ekosistem yang berfungsi dan transparan dari pengawasan AI yang dipimpin bank.

Bahkan tanpa perintah keselamatan federal, kehati -hatian masih mengatur hari itu. Komite risiko harus mengajukan pertanyaan sulit: Apakah kami yakin model AI kami tidak menghukum lingkungan tertentu atau kelompok umur? Apakah kita memiliki rencana cadangan jika model mulai melayang dan menghasilkan hasil yang aneh? Siapa yang memiliki tanda tangan utama untuk menempatkan produk AI baru ke dalam produksi? Dasar seperti pertanyaan ini terdengar, banyak lembaga menjalankan pilot AI tanpa daftar periksa formal. Itu berbahaya – pada titik tertentu, kesalahan atau bias dapat melintas dan membahayakan orang -orang nyata. (Dalam bagian terakhir untuk bankir Amerika, Saya berpendapat bahwa data pelatihan itu sendiri dapat menabur bias dalam model AI yang dibangun dengan baik.)

Tak satu pun dari ini menyarankan bank harus merayakan pencabutan karena “sekarang kita dapat melakukan apa pun yang kita inginkan.” Sebaliknya, lembaga -lembaga yang bertanggung jawab mungkin mempertahankan standar yang lebih ketat daripada aturan lama yang diperlukan. Meningkatkan sekarang dengan pengaturan diri yang kuat dapat menunjukkan bahwa industri jasa keuangan memimpin, daripada menunggu arahan pemerintah. Kepemimpinan semacam itu menjadi keunggulan kompetitif.

Ya, bank yang menetapkan aturannya sendiri menuntut lebih banyak pekerjaan di muka. Ini akan membutuhkan tim lintas fungsi-orang-orang kepatuhan, ilmuwan data, penasihat hukum-menyusun kebijakan internal dan model audit. Tetapi dilakukan dengan baik, itu mencegah sakit kepala di masa depan dan membantu memberikan layanan berbasis AI yang benar-benar dipercaya oleh pelanggan. Mungkin bank akan meluncurkan penjelasan model yang ramah pengguna atau proses perselisihan yang mudah ketika sistem melakukan panggilan yang dipertanyakan. Langkah -langkah ini melampaui kepatuhan; Mereka adalah bagian dari membangun hubungan yang langgeng di dunia di mana AI tumbuh dari hari ke hari.

Jadi, sementara penarikan pedoman keselamatan AI Biden dapat membuat beberapa bankir merasa seperti lantai yang baru saja menghilang di bawah kaki mereka, itu bisa menjadi undangan. Bank dapat membuktikan bahwa mereka dapat secara bertanggung jawab mendorong AI ke depan, mempertahankan kepercayaan konsumen dan mempertahankan proses yang adil. Daripada membiarkan “deregulasi” mendefinisikan era ini, bank dapat memilih untuk mendefinisikannya sendiri dengan mengadopsi etika AI yang kuat, memperjuangkan praktik terbaik industri dan mengingatkan semua orang mengapa kepercayaan, bukan keuntungan jangka pendek, tetap menjadi landasan perbankan.