JPMorgan Chase, NYCA Invest

Fairplay, penyedia perangkat lunak pengujian keadilan untuk bank dan pemberi pinjaman fintech, akan menerima $ 10 juta dalam dana pada hari Jumat dari JPMorgan Chase, Infinity Ventures dan NYCA Partners.

“Pada dasarnya, yang kami lakukan adalah menguji model bias,” kata Kareem Saleh, pendiri dan CEO, kepada bankir Amerika. “Anda dapat menjadi bias dalam berbagai arah – terhadap kelompok -kelompok tertentu, terhadap orang -orang dari geografi tertentu, terhadap orang -orang dengan pendapatan tertentu. Terlepas dari kewajiban hukum, saya pikir ada perasaan dalam zeitgeist bahwa sistem AI ini mungkin tidak memperlakukan kita manusia dengan baik.”

Fairplay telah meningkat Sekitar $ 23,5 juta sejak didirikan pada tahun 2020. Perubahan besar bagi perusahaan pada tahun 2024, menurut Saleh, apakah ia lulus dari bekerja kebanyakan dengan fintechs untuk bekerja dengan beberapa bank terbesar. (Bank -bank telah menolak namanya.)

Pada bulan Februari, Pathward, sebuah bank nasional yang berbasis di Sioux Falls, South Dakota, menandatangani kontrak tiga tahun dengan Fairplay. Charles Ingram, Kepala Teknologi dan Petugas Produk di Pathward, mengatakan teknologi Fairplay akan membantu bank memperbaiki kemampuan analitisnya terkait dengan pinjaman yang adil dan menciptakan efisiensi melalui alat dan otomatisasi baru.

“Kami optimis teknologi ini akan berkontribusi untuk membuat jaringan keuangan dapat diakses oleh lebih banyak konsumen dan bisnis,” kata Ingram.

Shuman Chakrabarty, Kepala Dampak Keuangan dan Kelompok Penasihat di JPMorgan Chase, menjadi tertarik pada cara Fairplay membantu pemberi pinjaman mengevaluasi model mereka dan memperluas akses ke kredit, dan bahwa ia bekerja dengan institusi dengan ukuran yang berbeda, “yang sangat penting jika kita akan memperkuat ekosistem.”

“Ketika kita memikirkan adopsi cepat AI di seluruh jasa keuangan, apakah itu pemberi pinjaman fintech, apakah itu lembaga pemberi pinjaman yang lebih kecil, kami melihat banyak dari mereka mencari semacam bantuan dalam mengevaluasi model mereka,” kata Chakrabarty.

Contohnya adalah pemberi pinjaman yang melihat peminjam yang memiliki file kredit yang tidak lengkap. “Solusi seperti Fairplay memastikan bahwa peminjam seperti itu mendapatkan tampilan menyeluruh dengan cara yang diharapkan dapat menumbuhkan akses yang meningkat,” kata Chakrabarty. “Kami mencari cara untuk mendukung adopsi AI yang dapat dipercaya, karena pada akhirnya, apa yang ingin kami lakukan adalah memperkuat ekosistem jasa keuangan selama periode evolusi cepat, dan melihat Fairplay sebagai cara yang berpotensi penting untuk melakukan itu.”

JPMorgan Chase memiliki tim internal yang didedikasikan untuk model evaluasi, sesuatu yang tidak semua bank mampu lakukan.

Investor Fintech yang berbasis di New York, NYCA, telah berinvestasi di banyak startup AI.

“We have been viewing AI as important in many, many ways in financial services and in our view the most powerful near-term application of AI in financial services is making expensive people more efficient; think of some of the very well-paid staff inside a bank, like people doing model risk management, building credit models, managing corporate banking relationships, or managing money for clients,” said Hans Morris, managing partner of Nyca Partners. “Bagaimana Anda bisa membuat petugas pinjaman dan manajer hubungan lebih efisien?”

Pinjaman adalah subjek yang rumit dan sensitif-tidak hanya karena diatur dan tunduk pada undang-undang seperti Undang-Undang Pelaporan Kredit yang Adil, tetapi karena ada sejarah dekade diskriminasi yang terdokumentasi dengan baik, Morris menunjukkan.

“Ada banyak jenis bias yang telah ada sejak lama,” kata Morris. “Bank terus -menerus bertanya pada diri mereka sendiri, ‘Seberapa yakin kami bahwa model kami akurat?'” Tidak hanya ada risiko peraturan untuk melanggengkan bias, misalnya, dengan gagal meninjau tindakan reinvestment komunitas dan karenanya memiliki aplikasi merger yang ditolak, tetapi bank memiliki kepentingan dalam memberikan pinjaman kepada orang -orang yang akan membayar, dan bias menunjuknya.

Perusahaan seperti Fairplay membantu bank mempertimbangkan peminjam yang memiliki skor FICO rendah atau tidak ada, mungkin karena mereka tumbuh di komunitas di mana tidak ada cabang bank.

Banyak bank baru-baru ini menjatuhkan upaya inklusi karena sinyal yang datang dari Washington, DC dan salah satu kritik terbesar dari pinjaman berbasis AI, Biro Perlindungan Keuangan Konsumen, sedang dibongkar.

Namun undang -undang pinjaman yang adil tetap ada dan regulator dan pengacara umum bank kepedulian tentang siapa bank meminjamkan dan apakah mereka adil. Dan, menurut Saleh, beberapa bank telah membuat praktik bertanya, apakah AI kita memiliki titik buta?

“Itu adalah pertanyaan yang relevan dengan bank untuk tujuan manajemen risiko, sepenuhnya terpisah dari apa yang Anda pikirkan tentang Dei dan redlining dalam industri jasa keuangan,” kata Saleh. “AI memiliki kecenderungan terkenal ini untuk overfit ke populasi yang terwakili dengan baik dalam data.

“Dan jika Anda ingin menjaga AI Anda dari menjalankan bisnis Anda dari tebing, atau menyebabkan kerusakan di komunitas yang Anda layani, Anda mungkin harus tahu populasi apa yang Anda setujui dan populasi apa yang Anda lewatkan, dan mengapa, dan apakah Anda meninggalkan uang di atas meja? Dan apakah modelnya merendahkan ketika sedang dalam produksi? Apakah ada sesuatu yang rusak, baik di model atau di dunia?”