Pendukung konsumen, fintech mendesak CFPB, FHFA untuk mengadopsi panduan AI

Koalisi Reinvestasi Komunitas Nasional dan empat perusahaan fintech mendesak Biro Perlindungan Keuangan Konsumen dan Badan Pembiayaan Perumahan Federal untuk memberikan panduan tentang penggunaan pembelajaran mesin dan kecerdasan buatan dalam pemberian pinjaman, yang mereka klaim akan membantu menghilangkan diskriminasi.

Dalam surat kepada regulator yang diperoleh secara eksklusif oleh American Banker, kelompok advokasi konsumen dan perusahaan — Semangat AI, PemulaStratyfy, dan FairPlay — meminta rekomendasi tentang cara lembaga dapat menerapkannya itu Perintah eksekutif Gedung Putih tentang AI yang dirilis tahun lalu. Salah satu sarannya adalah agar CFPB memberikan panduan tentang “aplikasi yang bermanfaat” dari AI dan pembelajaran mesin untuk mengembangkan model penjaminan emisi yang lebih adil.

“Salah satu penerapan AI/machine learning yang bermanfaat adalah memungkinkan, bahkan dengan menggunakan data riwayat kredit tradisional, untuk menilai konsumen yang sebelumnya dikecualikan atau tidak dapat dinilai,” tulis surat tersebut. “Dalam beberapa kasus, model AI memungkinkan akses dan inklusivitas.”

Keempat fintech tersebut merupakan anggota Dewan Inovasi untuk Inklusi Keuangan NCRC, sebuah forum yang membahas dan mengejar tujuan kebijakan yang menyelaraskan kelompok industri dan konsumen. Pembelajaran mesin dan beberapa “kategori pembelajaran mendalam AI” dapat digunakan secara bertanggung jawab untuk mengembangkan model penjaminan emisi guna membantu pemberi pinjaman mematuhi undang-undang anti-diskriminasi, kata surat itu.

Perintah Presiden Biden tentang AI mengarahkan CFPB dan FHFA untuk memantau bias pinjaman.

Tahun lalu CFPB mengatakan bahwa pemberi pinjaman konsumen mempunyai tugas tegas untuk memantau, menyempurnakan dan memperbarui model pinjaman dan untuk mencari alternatif yang tidak terlalu diskriminatif. Sejak itu, ada dorongan bagi lembaga-lembaga tersebut untuk secara eksplisit mengizinkan penggunaan AI dan pembelajaran mesin dalam mencari model pinjaman alternatif yang tidak terlalu diskriminatif.

Rekomendasi lain yang dikutip dalam surat tersebut adalah agar CFPB mengidentifikasi aktivitas yang memicu pengawasan pemberian pinjaman yang adil dan jenis kondisi apa yang mengharuskan pemberi pinjaman untuk terlibat dalam pencarian alternatif yang tidak terlalu diskriminatif sehingga memungkinkan pemberian kredit kepada masyarakat yang kurang terlayani.

“Beberapa dari alat-alat ini menggambarkan dirinya menggunakan pembelajaran mesin yang transparan, sebuah subbidang AI yang digunakan di pasar saat ini dan dapat menghasilkan keputusan kredit yang inklusif,” kata surat itu.

Kelompok-kelompok tersebut juga menyadari adanya potensi penyalahgunaan.

“Saat metode AI ini dieksplorasi, transparansi sangatlah penting. Pemangku kepentingan internal dan eksternal harus dapat memahami cara kerja suatu model dan mengoreksi bias yang tertanam dalam data historis yang digunakan untuk membangun model pembelajaran mesin ini,” kata surat tersebut.

Selain itu, surat tersebut meminta FHFA untuk mengembangkannya opini penasehat tahun 2022 tentang AI dan untuk mengeksplorasi penerapan AI yang bermanfaat yang dapat menggantikan penjaminan manual dan menyederhanakan kemampuan Fannie Mae dan Freddie Mac, selain modal swasta, untuk menyediakan likuiditas yang lebih besar ke pasar hipotek. Program percontohan juga dipandang sebagai “pendekatan yang menjanjikan bagi regulator untuk terlibat dengan AI,” tulis surat itu.

Direktur CFPB Rohit Chopra punya memperingatkan perusahaan berulang kali kekhawatiran tentang keputusan yang dihasilkan AI dalam pemberian pinjaman. CFPB skeptis terhadap klaim bahwa algoritme canggih dapat menyembuhkan segala penyakit yang dapat menghilangkan bias dalam penjaminan kredit dan penetapan harga.

Perusahaan Fintech yang menjual dan menggunakan pembelajaran mesin dalam pengambilan keputusan pemberian pinjaman telah lama mengklaim bahwa teknologi tersebut dapat dan harus digunakan untuk memperluas kredit kepada peminjam berpenghasilan menengah dan rendah. Sementara itu, para pendukung konsumen telah menghabiskan waktu puluhan tahun untuk mencoba mendorong pemberi pinjaman agar memberikan lebih banyak pinjaman kepada kelompok yang dilindungi. Kedua kelompok tersebut kini berpendapat bahwa pembelajaran mesin dan AI dapat digunakan untuk menghilangkan diskriminasi dan bias dalam nilai kredit, penilaian, dan penjaminan kredit.

“Alat AI dapat menilai risiko pemohon secara lebih komprehensif, sehingga harus diadopsi lebih awal dan lebih disukai dibandingkan model dan alat yang lebih lama,” kata surat itu.

Meskipun sebagian besar surat NCRC berfokus pada potensi manfaat inklusi keuangan dari AI dan fintech menyoroti kemampuan mereka untuk mengembangkan dan menguji algoritma, pendukung konsumen lainnya kurang optimis terhadap teknologi tersebut.

Pada bulan Juni, dua kelompok konsumen lainnya—Federasi Konsumen Amerika dan Consumer Reports — mendesak CFPB untuk meminta pertanggungjawaban pemberi pinjaman dengan mencari algoritma yang tidak terlalu diskriminatif sebagai bagian dari proses berkelanjutan untuk memenuhi kepatuhan mereka terhadap undang-undang peminjaman yang adil.

Secara umum, pendukung konsumen ingin CFPB bersikap agresif dalam menghukum pemberi pinjaman yang menggunakan model diskriminatif sekaligus menetapkan batasan untuk melindungi konsumen mana pun yang kelayakan kreditnya dinilai oleh mesin.