Bank harus memahami alat AI mereka atau berisiko melanggar hukum

Produk jasa keuangan berbasis AI diluncurkan dengan pesat oleh bank dan penyedia jasa keuangan lainnya.

Alat yang tersedia mencakup berbagai bidang, termasuk chatbot mirip manusia yang dapat berbicara dengan pelanggan, alat pengawasan dan pemantauan yang ditingkatkan yang dapat menghadapi ancaman keamanan siber atau ancaman keselamatan lainnya, dan algoritme yang semakin canggih dalam mengambil keputusan kredit.

Alat-alat baru ini menjanjikan peningkatan efisiensi di berbagai bidang penting; namun hal ini juga membawa potensi risiko hukum dan peraturan. Penyedia jasa keuangan perlu menemukan cara untuk mencapai keseimbangan yang tepat seiring dengan terus berkembangnya kemajuan teknologi. Haruskah mereka mengambil tindakan lebih dulu dengan mengadopsi teknologi tersebut, atau hanya duduk di pinggir lapangan menunggu peraturan lalu lintas muncul?

Di negara-negara berkembang, teknologi cenderung mendahului kemampuan regulator dalam menetapkan peraturan dasar. Perusahaan sering kali dibiarkan sendiri dalam menilai cara menafsirkan panduan peraturan umum, pernyataan atau prinsip lembaga. Perusahaan mungkin memilih untuk mengambil langkah lebih hati-hati, namun pada saat yang sama, mereka mungkin tidak mendapatkan panduan yang cukup dari regulator untuk merasa nyaman bahwa mereka berada di jalur yang benar.

Ambil saja topik teknologi hangat terkini: cryptocurrency. Bidang tersebut dulunya, dan masih, menjadi bahan perdebatan sengit mengenai apakah regulator telah memberikan panduan yang memadai.

Bank tentu saja bisa membanggakan diri sebagai salah satu industri yang (paling banyak?) diatur, dan sering kali mendapat manfaat dari peraturan yang tepat, panduan, tindakan penegakan hukum terkini, atau peraturan lainnya. Terkait AI, selama beberapa tahun terakhir, para pembuat kebijakan telah memusatkan perhatian pada kekhawatiran mengenai potensi diskriminasi dan ketidakadilan dalam penggunaan alat AI dalam layanan keuangan, dan para komentator hukum – termasuk di firma hukum saya – mulai memperkirakan beberapa tahun yang lalu bahwa otoritas penegak hukum pemerintah akan melakukan hal yang sama. akan semakin fokus pada bidang ini untuk memerangi ketidakadilan, diskriminasi, dan kurangnya transparansi dalam pengambilan keputusan yang dihadapi konsumen.

Dengan dimulainya gelombang AI generatif, laju panduan semakin cepat. Beberapa bulan terakhir ini terlihat banyak sekali panduan dari seluruh pemerintahan mengenai isu-isu yang berkaitan dengan penggunaan kecerdasan buatan dalam bisnis dan perbankan. Pada bulan April 2023, Biro Perlindungan Keuangan Konsumen, Equal Employment Opportunity Commission, Divisi Hak Sipil Departemen Kehakiman, dan Komisi Perdagangan Federal mengeluarkan pernyataan bersama yang menguraikan komitmen mereka untuk mencegah bias dalam AI.

Pernyataan tersebut menegaskan kembali bahwa kewenangan penegakan hukum yang ada berlaku untuk penggunaan AI sama seperti yang diterapkan pada praktik lainnya. Hal ini diikuti oleh perintah eksekutif penting dari pemerintahan Biden pada bulan Oktober, yang menetapkan pedoman keselamatan AI dan mendorong regulator untuk melakukan penilaian risiko AI mereka sendiri. Pada bulan Januari, FTC mengadakan pertemuan puncak mengenai AI, di mana Samuel Levine, direktur Biro Perlindungan Konsumen FTC, mengisyaratkan niat lembaga tersebut untuk memperkuat penegakan perlindungan konsumen jika alat AI bersifat diskriminatif atau menyebabkan kerugian bagi konsumen. Setidaknya, hal ini menunjukkan bahwa perusahaan yang menggunakan kecerdasan buatan diharapkan semakin bertanggung jawab dalam melindungi konsumen ketika menerapkan AI.

Untuk memahami pernyataan ini, membaca peraturan dan berkonsultasi dengan penasihat adalah kuncinya. Namun ada satu aturan yang masuk akal yang mungkin lebih unggul dari yang lain: Pahami teknologi Anda dan cara penerapannya. Kegagalan untuk memahami proses atau hasil AI, seperti kurangnya penjelasan, diidentifikasi oleh Kantor Pengawas Keuangan Mata Uang sebagai risiko utama yang terkait dengan AI.

Dan komentar-komentar baru-baru ini menggemakan konsep tersebut. Misalnya, pada FTC Tech Summit awal tahun ini, Atur Desai, wakil kepala teknologi CFPB bidang hukum dan strategi, menggarisbawahi perlunya perusahaan untuk tidak menggunakan teknologi “kotak hitam” dalam mengambil keputusan yang berhubungan dengan konsumen. Dia mencatat bahwa, “Jika sebuah perusahaan tidak dapat mematuhi undang-undang seperti undang-undang keuangan konsumen federal karena teknologinya terlalu rumit atau sebaliknya? Maka mereka seharusnya tidak menggunakan teknologi tersebut.”

Desai menambahkan bahwa CFPB berkomitmen untuk mengembangkan pengetahuan tentang pasar yang diawasinya dan telah menjadikan pengintegrasian keahlian teknologi ke dalam tim pengawasan dan penegakan hukum sebagai area fokus utama.

Bank harus mampu menjelaskan alat AI mereka dengan cukup baik untuk mempertahankannya. Hal ini mungkin terjadi khususnya ketika alat AI digunakan untuk membuat keputusan kredit. Panduan CFPB terbaru mengenai pemberitahuan tindakan merugikan berdasarkan Equal Credit Opportunity Act menegaskan kembali hal ini dengan mencatat bahwa alasan “spesifik” untuk penolakan kredit harus diberikan, bahkan ketika algoritma “kotak hitam” yang rumit telah digunakan. Mengandalkan bahasa umum dalam bentuk yang sudah ada mungkin tidak cukup.

Michaela Croft, Sol Gelsomino dan Pejman Yousefzadeh dari Jenner & Block membantu persiapan artikel ini.