Perusahaan keuangan memberi tahu Kongres mengapa mereka membutuhkan AI

Perwakilan dari perusahaan yang mencakup jasa keuangan dan perumahan memberikan kesaksian pada hari Selasa tentang pentingnya data berkualitas tinggi dan auditabilitas saat menerapkan kecerdasan buatan di seluruh industri mereka, serta janjinya dalam memerangi penipuan dan meningkatkan persaingan antar perusahaan.

Kesaksian tersebut, yang merupakan bagian dari sidang Komite Layanan Keuangan DPR tentang manfaat dan risiko AI, mengikuti rilis laporan pada tanggal 18 Juni oleh gugus tugas komite yang mencakup bagaimana regulator dan perusahaan keuangan menggunakan AI.

“Yang pasti, AI bukanlah hal baru bagi industri jasa keuangan,” kata Ketua Patrick McHenry, RN.C., dalam sambutan pembukaannya pada hari Selasa. “Perusahaan keuangan telah menggunakan algoritma selama beberapa dekade, baik untuk menganalisis kumpulan data besar maupun untuk berdagang. Namun, perkembangan baru dalam AI generatif telah membangkitkan imajinasi banyak orang.”

Misalnya, Nasdaq menggunakan AI untuk meningkatkan efektivitas manajemen risiko kejahatan keuangan di lembaga keuangan dan pembelajaran mesin untuk mendeteksi perdagangan orang dalam, manipulasi pasar, dan penipuan.

“Penerapan teknologi AI tidak serta merta menuntut perubahan regulasi yang menyeluruh,” kata John Zecca, kepala hukum, risiko, dan regulasi global di Nasdaq, selama sidang tersebut. “Regulasi baru seharusnya tidak berfokus pada teknologi tertentu itu sendiri dan sebaliknya harus proporsional dengan manfaat, risiko, dan kerugian dari aplikasi AI. Regulasi alat AI untuk mendeteksi perdagangan narkoba seharusnya tidak sama dengan regulasi alat AI yang identik jika digunakan untuk menyetujui aplikasi sewa apartemen.”

Salah satu fokusnya adalah bagaimana AI memungkinkan lembaga keuangan komunitas, termasuk lembaga dengan aset $1,6 miliar Serikat Kredit Great Lakesmeningkatkan layanan kepada anggotanya pada tingkat yang dapat bersaing dengan perusahaan yang lebih besar.

Great Lakes Credit Union menerapkan asisten virtual berkemampuan suara, Olive, dengan vendor Interface.ai pada tahun 2023. Olive menangani 60% panggilan masuk selama jam kerja dan 75% setelah jam kerja, lapor kepala operasi Elizabeth Osborne selama sidang tersebut.

Hasilnya, agen pusat panggilan serikat kredit yang berbasis di Bannockburn, Illinois telah beralih dari peran pendukung transaksional ke peran yang lebih konsultatif dan penasihat, dengan tingkat gaji yang lebih tinggi dan jalur karier yang lebih baik. Langkah selanjutnya adalah meningkatkan kemampuan Olive untuk berkomunikasi dalam bahasa Spanyol, bahasa yang digunakan oleh sebagian besar anggota Great Lakes.

“AI membantu kami meningkatkan layanan kepada anggota kami yang mungkin tidak dapat kami lakukan jika tidak didukung oleh skala ekonomi,” ungkapnya.

Great Lakes saat ini berfokus pada kasus penggunaan layanan pelanggan, dan tidak menerapkan AI untuk keputusan peminjaman atau untuk mendeteksi dan mencegah penipuan. Namun, mereka sedang menjajaki kasus penggunaan di kedua area tersebut.

Pertanyaan lainnya adalah bagaimana memastikan kepatuhan terhadap standar peraturan dan etika, termasuk bagi perusahaan yang sangat bergantung pada pihak ketiga seperti Great Lakes.

“Kepatuhan menjadi hal yang paling utama dalam benak pelanggan kami,” kata Frederick Reynolds, wakil penasihat hukum regulasi dan kepala petugas kepatuhan di penyedia teknologi inti FIS.

Ia mengatakan selama sidang tersebut bahwa FIS segera membentuk dewan tata kelola sebagai bagian dari praktik AI-nya.

“Kuncinya adalah auditabilitas, memastikan kita memahami dengan jelas bagaimana dan mengapa kita menggunakan AI serta kontrol apa saja yang kita terapkan,” katanya.

FIS sadar bahwa mereka adalah “garis pertahanan pertama” saat menerapkan teknologi kepada pelanggannya, yang sebagian besar adalah bank dan pialang, kata Reynolds. “Kami menyediakan informasi sehingga mereka dapat membuat penilaian untuk memastikan bahwa teknologi tersebut beroperasi sebagaimana mestinya dan tanpa bias.”

Menjaga keterlibatan manusia merupakan hal yang “kritis” bagi teknologi pada tahap ini, katanya, untuk memastikan sistem AI “belajar” dari kesalahan mereka dan melakukan perbaikan demi keadilan.

Pada akhirnya, FIS berfokus pada dampak teknologi termasuk AI generatif pada pencegahan penipuan, verifikasi identitas, dan prosedur uji tuntas pelanggan yang ada.

“Seiring dengan makin meluasnya adopsi teknologi ini, cara tradisional kita dalam menilai kepercayaan, yaitu identitas, menjadi kurang efektif,” kata Reynolds. “Sangat penting bagi generasi berikutnya dari uji tuntas pelanggan dan kontrol identitas untuk memanfaatkan AI generatif dan Web3 sekaligus melindungi dari penyalahgunaan.”

Osborne mengatakan serikat kreditnya memantau pihak ketiga secara ketat dan menjalani proses ketat untuk memeriksa mitranya, termasuk reputasi, riwayat pelanggaran data, dan keuangan mereka.

“Kami memperlakukan mereka sebagai vendor penting,” katanya.