Capital One, para pemimpin Mastercard mencari keuntungan atas upaya gen AI mereka

Terlepas dari hype awal seputar kasus penggunaan AI generatif yang menyerupai ChatGPT — misalnya, chatbot yang menjawab pertanyaan karyawan— bank kini mengevaluasi aplikasi berdasarkan pertimbangan ROI.

Ini mungkin bukan aplikasi yang paling menarik, namun upaya untuk menemukan kasus penggunaan yang layak akan bergantung pada pengaturan penilaian internal dan proses tata kelola untuk mewujudkannya, kata para ahli di Money 20/20 minggu ini.

“Pertanyaan sebenarnya adalah pada urutan kasus penggunaan secara sementara,” termasuk kesiapan tumpukan teknologi dan data suatu institusi, serta ketersediaan talenta internal, kata Prem Natarajan, kepala ilmuwan dan kepala AI perusahaan di Capital One. “Semua orang mengira mereka siap menghadapi interaksi pelanggan dengan ini. Saya tidak yakin seberapa siap semua orang.”

Bagi beberapa perusahaan, kasus bisnis untuk kasus penggunaan gen AI “di balik terpal” tampaknya masuk akal. Mastercard mengatakan pihaknya berfokus pada menjaga lingkungan transaksi melalui gen AI, termasuk memerangi penipuan, kata Greg Ulrich, wakil presiden eksekutif dan kepala AI dan data officer perusahaan.

“Kami mencoba membuat lingkungan transaksi lebih aman. Bagaimana Anda meningkatkan model penipuan?” katanya. “Bagaimana kita membuat ekosistem menjadi lebih cerdas? Ini tentang mesin rekomendasi yang membantu mitra kami.”

Jaringan pembayaran juga menggunakan teknologi ini untuk meningkatkan pengalaman pelanggan melalui personalisasi dan berupaya menerapkan gen AI untuk meningkatkan efisiensi operasional internal, menurut Ulrich. Kasus penggunaan internal mencakup pengkodean, mendorong efisiensi bagi para insinyur dan dukungan pelanggan — contoh-contoh yang memanfaatkan kemampuan gen AI untuk memahami data yang tidak terstruktur.

Demikian pula, perusahaan pembayaran TSYS berencana menggunakan kemampuan gen AI untuk melawan penipuan dan serangan siber, memanfaatkan kemampuannya untuk mendeteksi transaksi anomali dan melakukan penilaian secara real-time, kata Dondi Black, wakil presiden eksekutif dan chief product officer di TSYS.

Perusahaan harus rajin mengevaluasi efisiensi kemampuan pengujian, serta volume dan kualitas data, kata Natarajan. Perusahaan juga harus mampu mengamati dan memantau model gen AI dengan baik.

Membangun versus membeli

Lembaga-lembaga yang menjadi peserta sepakat bahwa membangun segala sesuatunya sendiri mungkin bukan pilihan yang paling tepat.

“Jika persyaratan teknologi tersebut, termasuk data, tersedia secara luas di dunia, dan tidak ada data yang membuatnya unik, maka tidak ada alasan untuk membangunnya,” kata Natarajan.

Perusahaan juga harus mengevaluasi, ketika mengambil keputusan membangun versus membeli, apakah solusinya akan menjadi sesuatu yang ingin dibedakan oleh perusahaan.

“Saya tidak berpikir Anda membangun diferensiasi dengan menjadi integrator sistem yang mengintegrasikan tiga atau empat solusi berbeda dari tempat lain,” ujarnya.

Perusahaan mungkin juga ingin mempertimbangkan cara terbaik untuk memberikan jaminan privasi kepada pelanggan.

“Mungkin ada jaminan lain yang ingin Anda berikan kepada pengguna Anda tentang data mereka atau kualitas solusi, atau dapat menjawab pertanyaan tentang solusi ini, dan dapat melakukan pemeriksaan mendalam terhadap hal-hal tersebut,” kata Natarajan. .

Bagi Mastercard, hal ini bergantung pada sensitivitas data.

“Jika tidak ada informasi sensitif yang Anda gunakan di sana, maka kami biasanya mencoba mencari tahu apakah ada solusi yang bisa kami gunakan,” kata Ulrich.

Model tata kelola

Perusahaan yang ingin menerapkan penggunaan gen AI harus memiliki model tata kelola yang jelas untuk memastikan parameter pengujian konsisten, prinsip etika diterapkan, dan perusahaan memberikan jaring yang cukup luas dalam upaya konsultatif mereka.

“Sangat penting untuk menyiapkan kerangka tata kelola untuk hal ini sejak dini, dan menetapkan protokol tentang bagaimana Anda akan melakukan pengujian untuk hal ini, bagaimana Anda akan memikirkan tantangan penerapan gen AI, karena jika tidak, Anda akan dapat mengalami banyak masalah saat melewatinya, dan Anda dapat tersandung pada proses internal,” kata Ulrich.

TSYS mendirikan pusat keunggulan untuk menetapkan standar, termasuk protokol data.

“Memastikan datanya lengkap… tidak hanya akan menghasilkan keluaran yang lebih baik dalam hal performa model, namun juga akan menunjukkan secara langsung bagaimana Anda secara inheren menjaga kepercayaan terhadap model dan menjauhkan bias dari model,” kata Black, yang mencatat bahwa perusahaan perlu menggunakan AI untuk terus melatih ulang model guna memastikan efektivitasnya.

TSYS, dalam pendekatan tata kelolanya, juga memprioritaskan penjelasan AI dan bagaimana keputusan dibuat, dengan tim hukum dan privasi ikut serta, katanya.

Sementara itu, Mastercard telah membentuk dewan AI dan data yang diketuai oleh Ulrich dan kepala petugas privasi perusahaan untuk memastikan semua pemangku kepentingan terkait – termasuk ahli teknologi serta kepala unit hukum, pengadaan dan bisnis – diajak berkonsultasi mengenai strategi AI, katanya. Kelompok ini memiliki fokus khusus pada tata kelola, privasi, dan deteksi bias. Pada gilirannya, karyawan selalu mendapat informasi tentang risiko dan peluang AI.

Natarajan dari Capital One menyarankan privasi, pertimbangan etis, dan manajemen risiko perlu ditangani pada awal peluncuran gen AI dan dimasukkan ke dalam prosesnya.

“Ini bukan perbaikan tambahan di akhir siklus implementasi. Anda harus memulainya pada tahap desain,” katanya. Pertanyaan kunci yang perlu diajukan adalah mengenai keterwakilan dan kelengkapan data, serta pendekatan validasi dan manajemen risiko.

Penting juga, katanya, untuk menjalin hubungan dengan peneliti AI di universitas-universitas yang berupaya mengatasi masalah terbesar.

Dia menyoroti kemitraan strategis multi-tahun Bank Dunia dengan universitas-universitas. Contohnya termasuk perannya dalam membantu mendirikan Pusat AI yang Bertanggung Jawab dan Pengambilan Keputusan di bidang Keuangan di University of Southern California, yang didukung oleh a hadiah $3 juta dari Capital One; dan sebuah investasi $3 juta untuk mendukung inisiatif Pusat AI dan Inovasi Keuangan Bertanggung Jawab Universitas Columbia.

“Dua risiko terbesar adalah terburu-buru… dan menjauh, jadi Anda harus menemukan keseimbangan,” katanya.

Penurunan biaya pengembangan aplikasi gen AI akan menjadi keuntungan bagi perusahaan, kata Natarajan.

“Biaya berkelanjutan Anda sebenarnya adalah biaya inferensi (pada dasarnya, biaya berkelanjutan untuk menjalankan model), dan setidaknya ada hampir dua kali lipat pengurangan biaya tersebut dalam 18 bulan terakhir, berkat kerja sama di Nvidia, dan terima kasih atas kerja di banyak tempat lain,” katanya.