Google, platform koridor mitra pada kontrol gen AI untuk bank

Ketika bank bereksperimen dengan dan mengujicobakan AI generatif, mereka memiliki kebutuhan yang semakin besar untuk meletakkan pagar pembatas di sekitar sistem -sistem itu, untuk mengatasi kecenderungan model terhadap berhalusinasi, untuk mengambil informasi yang salah dan untuk melanggengkan bias, serta mematuhi keamanan dan privasi aturan dan norma. Perusahaan terbaru untuk mengatasi permintaan ini adalah platform Google dan koridor.

Para pendiri Platform Koridor, yang berbasis di Haworth, New Jersey, menghabiskan sebagian besar karier mereka di American Express, bekerja dalam risiko, analitik, dan tata kelola.

“Kami memulai perusahaan tujuh tahun yang lalu untuk fokus pada bagaimana bank dapat menggunakan AI tradisional, dengan cara yang jauh lebih bertanggung jawab, dan mulai mengambil keuntungan dari beberapa teknologi baru dan mengubahnya menjadi keahlian dan perjalanan pelanggan,” Manish Gupta, koridor CEO Platforms, kepada American Banker. Perusahaan telah bekerja dengan dua bank tingkat 1, satu selama tiga tahun dan satu selama lima tahun, dan beberapa bank kecil. (Koridor tidak menyebutkan nama bank apa pun.)

“Salah satu rintangan besar adalah, bagaimana Anda mengatur dan mengendalikan risiko baru yang muncul dengan AI generatif, serta mengelola bias tradisional yang sudah ada di AI biasa?” Kata Gupta. Corridor ikut mengembangkan platform manajemen model dengan bank besar, kemudian mengembangkan versi AI generatif, katanya. Ini disebut GenGuardx.

Bank yang sama bekerja dengan Google Cloud. “Kami berdua membantu bank berpikir, bagaimana Anda mendapatkan sesuatu menjadi produksi?” Kata Gupta. Corridor juga bekerja dengan penyedia komputasi awan lainnya seperti Amazon Web Services dan Microsoft Azure. “Kami tidak menyandera lingkungan apa pun,” kata Gupta, menambahkan bank sering menggunakan teknologi di tempat.

Google Cloud menyediakan infrastruktur, model yayasan, dan “satu ton pagar pembatas dan kontrol yang dapat diadopsi dan diimplementasikan oleh lembaga keuangan,” Toby Brown, Direktur Pelaksana Solusi Perbankan Ritel Global di Google Cloud, kepada American Banker.

Untuk model apa pun, bank biasanya akan memiliki 200 hingga 300 halaman dokumentasi, kata Brown. “Ada juga pemantauan dan pengujian konstan ini dari semua yang Anda lakukan dengan model itu dan memastikan bahwa itu tetap sesuai dengan semua proses internal dan risiko serta persyaratan peraturan Anda sebagai bank,” katanya. “Jadi, sementara kami menyediakan semua perkakas dan kemampuan yang kaya ini untuk membantu bank melakukan itu, Koridor masuk ke atas untuk membantu mempercepat pekerjaan bank yang benar -benar kemudian masuk ke dalam produksi. Ini memberi mereka meja kerja ini dan membantu mereka menjalankan semua Itu dengan cara yang meningkatkan waktu mereka untuk menghargai. “

Bahaya a Model AI generatif berhalusinasi adalah perhatian utama bagi bank. Sebagian besar menggunakan teknik yang disebut Retrieval Augmented Generation untuk membatasi data yang dilatih oleh model, misalnya, membatasi informasi perusahaan sendiri. Tetapi halusinasi serta kesalahan masih bisa terjadi.

“Dari perspektif Google, halusinasi adalah salah satu kekhawatiran default bagi pelanggan ketika mereka melihat AI generatif,” kata Brown. “Dan kami sangat fokus pada pengembangan kontrol dan pagar pembatas dan teknik yang dapat Anda gunakan untuk mengurangi dan meminimalkan halusinasi itu, apakah itu menawarkan kemampuan untuk membumikan output AI dalam data perusahaan Anda; Anda juga dapat membumikannya di Google. Teknik membantu pelanggan perbankan kami memastikan bahwa output yang mereka dapatkan akurat dan cukup berulang untuk bekerja untuk kasus penggunaan yang diberikan. ”

Platform koridor melacak dan memvalidasi bahwa kontrol bekerja, kata Brown.

Dengan Google, “Anda memiliki perusahaan yang sangat mapan yang menyatakan kontrol kualitas mereka di atasnya, sebagai lawan dari Open Source LLMS atau LLMS yang tidak Anda ketahui,” kata Gupta. “Kami memberi Anda satu set alat di platform untuk mengevaluasi apa risiko di LLM mana pun, termasuk untuk toksisitas atau halusinasi.”

Perangkat lunak Corridor juga dapat membantu dengan pagar eksternal – menemukan dan menghentikan output model yang tidak pantas sebelum mencapai karyawan atau pelanggan.

Pengumuman kemitraan mendapat beberapa reaksi positif awal dari industri.

“Dengan GenGuardx, sepertinya bank dapat skala AI generatif dengan percaya diri sambil memastikan kepatuhan, mitigasi risiko dan efisiensi,” kata Suresh Renganathan, chief technology officer di Teachers Federal Credit Union, di sebuah pos LinkedIn. “Berharap untuk melihat dampaknya.”