Model kredit AI Anda baik-baik saja, tetapi data pelatihannya bermasalah

Janji dari kecerdasan buatan dalam pemberian pinjaman menawarkan pengambilan keputusan yang lebih cepat dan akses yang lebih luas terhadap kredit, namun hal ini sering kali melanggengkan kesenjangan yang ada. Berhati-hatilah: Anda Model pinjaman AI mungkin tidak seadil dan seobjektif kelihatannya.

Tidak percaya padaku? Mari kita lihat beberapa contoh. Pertama, pinjaman mobil — peneliti di Universitas Bath melaporkan bahwa perempuan lebih cenderung difavoritkan untuk mendapatkan pinjaman dibandingkan laki-laki, meskipun faktor keuangan lainnya masih bisa dikendalikan. Oh, dan dengan hipotek, kita melihat cerita yang sangat mirip. A Ujian 2024 memanfaatkan model bahasa besar terkemuka untuk menentukan kelayakan kredit ditemukan bahwa pemohon berkulit hitam mempunyai risiko penolakan yang lebih tinggi dibandingkan dengan pemohon berkulit putih. Dan ini bukan hanya tentang ras atau warna kulit. Ini meluas ke berbagai usia, kode pos, dan bahkan perguruan tinggi tempat Anda kuliah.

Pada akhirnya, pemberi pinjaman mencari faktor deterministik untuk menjamin produk – dan itulah yang terjadi di sini. Saya tahu betul. Saya menjalankan produk untuk tim ilmu data dan pengambilan keputusan di Ondeck Capital dan kami melihat setiap titik data yang bisa kami dapatkan. Dan saya bersungguh-sungguh. Mendapat peringkat Yelp yang buruk? Hal ini diperhitungkan dalam model kami. Check-in FourSquare Anda tidak berfungsi? Oh, kami tahu. Kami bahkan mempertimbangkan faktor-faktor seperti arus kas musiman dan kinerja bisnis di lingkungan Anda. Model pembelajaran mesin, atau ML, kami dirancang untuk memproses ribuan titik data untuk membuat keputusan peminjaman dalam hitungan detik.

Namun saya di sini untuk memberi Anda narasi alternatif. Menurut saya model AI Anda baik-baik saja (untuk saat ini), tetapi data Anda memiliki kelemahan mendasar. Masalahnya bukan pada algoritme itu sendiri, namun pada data historis yang kami berikan kepada mereka. Anda tahu, model dilatih berdasarkan kumpulan data yang sudah ada sejak beberapa dekade yang lalu. Jadi, jika kelompok tertentu secara historis ditolak pinjamannya dengan suku bunga lebih tinggi, model ML secara tidak sadar akan mengasosiasikan hal ini dengan “berisiko tinggi”. Model tidak menyadari bahwa hal tersebut tidak adil; itu hanya belajar dari pola yang kami berikan.

Masalahnya diperburuk oleh apa yang kami dalam industri ini sebut sebagai “file tipis” – laporan kredit dengan sejarah yang terbatas. Hal ini secara tidak proporsional berdampak pada kaum muda dan imigran baru – yang merupakan dua kelompok yang paling membutuhkan akses terhadap kredit. Alternatifnya adalah dengan mengambil pinjaman, yang sering kali dilakukan oleh masyarakat yang tidak mampu dan dengan persyaratan yang tidak menguntungkan, untuk membangun kredit, sehingga menciptakan situasi Catch-22 yang dapat menjebak masyarakat dalam siklus utang.

Dampak dari file tipis terhadap kelayakan kredit sangatlah mengejutkan. Menurut a studi terbaru oleh LexisNexisbank-bank di Inggris mungkin menolak pinjaman kepada 80% orang dewasa yang memiliki catatan kredit yang lemah, yang seringkali merupakan nasabah berisiko rendah. Permohonan-permohonan ini biasanya dianggap berisiko tinggi oleh model pinjaman tradisional, secara teori, sering kali ditolak secara otomatis melalui “pemotongan paksa”, sebuah proses di mana permohonan-permohonan dihilangkan berdasarkan kriteria tertentu yang dianggap perlu untuk mendapatkan persetujuan. Jika kriteria ini tidak ada, model biasanya mengabaikan informasi keuangan relevan lainnya — seringkali dengan poin data yang lebih lengkap, sehingga secara efektif menutup akses individu terhadap kredit.

Jadi bagaimana kita mengatasi ini? Saya berpendapat bahwa masa depan model pinjaman kita perlu mempertimbangkan gambaran yang lebih holistik untuk menentukan kelayakan kredit. Kita perlu mendiversifikasi sumber data, menerapkan pengujian ulang yang ketat terhadap bias, dan membuat model kita setransparan mungkin. Transparansi juga harus menjangkau konsumen, dengan memungkinkan mereka memahami faktor-faktor yang mempengaruhi kelayakan kredit mereka.

Ini seharusnya bukan hanya tentang algoritma yang lebih cerdas. Ini harus tentang data yang lebih cerdas, lebih adil dan lebih lengkap. Dan pada tingkat tertentu, ini adalah tentang memastikan akuntabilitas algoritmik — dan penerapan AI dan ML yang etis dalam produk yang memiliki dampak luas pada masyarakat.