Bagaimana JPMorganChase Demokratisasi Akses Karyawan ke Gen AI

Jpmorganchase adalah bank besar pertama yang meluncurkan AI generatif ke hampir semua karyawannya melalui portal yang disebut LLM Suite. Pada pertengahan Mei, ini digunakan oleh 200.000 orang.

“Kami berpikir bahwa AI memiliki potensi untuk benar -benar memberikan skala dan efisiensi yang luar biasa serta manfaat klien,” kata Teresa Heitsenrether, Chief Data dan Analytics Officer, kepada Bloomberg pada bulan Mei. “Ini adalah prioritas nyata bagi kami, dan kami sudah sangat fokus pada hal ini untuk waktu yang lama.”

Bank, seperti banyak orang lain, telah menggunakan AI tradisional dan pembelajaran mesin selama bertahun -tahun Di bidang -bidang seperti deteksi penipuan, manajemen risiko dan pemasaran.

“Tapi kejutan besar benar -benar datang dengan AI generatif, yang benar -benar membuka kemungkinan baru bagi kami,” kata Heitsenrether.

Suite llm adalah lapisan abstraksi di mana model bahasa besar seperti Openai’s GPT-4 ditukar dan keluar. Model dilatih pada hak milik Jpmorganchase data.

Pengacara bank menggunakan LLM Suite untuk menganalisis kontrak. Bankir menggunakannya untuk menyiapkan presentasi untuk klien dan untuk menghasilkan konsep email dan laporan.

“Apa yang dilakukan adalah benar -benar membebaskan waktu dan kapasitas,” kata Heitsenrether. “Rata -rata, kita melihat orang -orang mendapatkan satu atau dua jam produktivitas seminggu, yang benar -benar sangat signifikan. Dan kami benar -benar masih dalam tahap awal.”

Proyek ini “maju dalam ruang lingkup dan ambisi,” kata Alex Jimenez, konsultan strategi utama utama di Backbase. “Menyebarkan model bahasa besar yang berpemilik pada skala ini adalah langkah industri terkemuka. Tidak seperti yang lain, mereka tidak hanya menguji tetapi menanamkannya jauh ke dalam alur kerja harian para bankir, tim kepatuhan, teknolog. Kemajuan sebenarnya bukan hanya teknologi tetapi juga integrasi kelembagaan.”

Proyek ini mengatur nada untuk bank lain, katanya. “Peluncuran kemungkinan memberi tekanan pada bank sebaya untuk mempercepat atau meningkatkan inisiatif Gen AI mereka sendiri. Ini mempengaruhi peta jalan vendor dan diskusi tata kelola AI internal di seluruh industri.”

Pembuatan suite llm

Chief Analytics Officer Derek Waldron dan timnya mulai bekerja di LLM Suite dua tahun lalu.

“Eksperimen pemikiran yang kami lalui adalah, katakanlah model -model ini terus menjadi lebih baik dan lebih baik dan lebih baik dan lebih baik, yang mereka miliki,” kata Waldron kepada American Banker. “Dan terus bayangkan bahwa model atau sistem AI yang super cerdas muncul di depan pintu kita. Pernyataan masalahnya, adalah bagaimana Anda membuatnya bekerja di dalam Jpmorganchase? Kami ingin mengaktifkan teknologi AI generatif untuk perusahaan, tetapi kami ingin melakukannya dengan cara yang sangat aman dan aman yang memastikan bahwa kami dapat memahami garis keturunan data, dll. Dan itu adalah alasan utama mengapa kami ingin membangun di rumah seperti yang kami lakukan-untuk keselamatan dan keamanan. “

Lapisan abstraksi diciptakan dari pengakuan bahwa “di masa depan, model yang berbeda akan baik untuk hal yang berbeda, jadi kami tidak ingin arsitek diri kami di sekitar satu model tertentu,” kata Waldron. “Sebaliknya, kami ingin mengabstraksikannya. Jadi ketika karyawan memiliki aplikasi tertentu, mereka memiliki beberapa fleksibilitas dalam model yang mereka pilih sehingga mereka dapat memilih yang terbaik.”

Bank menguji dan memeriksa model baru untuk keselamatan dan keamanan, serta penerapannya pada kasus penggunaan yang berbeda, sebelum membawanya ke suite LLM -nya. Beberapa model bahasa besar pandai sintesis dan penalaran, sementara yang lain pandai pengkodean atau analisis dokumen yang kompleks, kata Waldron. Model kecil dapat disesuaikan untuk tugas-tugas tertentu.

Konektivitas ke basis data dan aplikasi bank sangat penting untuk pengembangan LLM Suite, seperti juga kemampuan untuk meluncurkan model kepada semua karyawan.

“Adalah satu hal untuk mendapatkan akses ke model melalui penyedia cloud atau melalui konektivitas API dan mengaktifkannya untuk pengembang aplikasi,” kata Waldron. “Ini benar-benar hal lain untuk meluncurkannya menjadi 250.000 karyawan. Jadi kami menempatkan taruhan besar dan besar pada aspek demokratisasi teknologi ini. Kami berpikir bahwa jika kami menempatkan kemampuan swalayan yang berkualitas sangat tinggi, tingkat konsumen dan terhubung ke Jpmorganchase sistem, dan kami membuat yang tersedia untuk seluruh perusahaan pada umumnya, kami akan benar -benar meningkatkan inovasi dan adopsi AI di perusahaan. Dan itu ternyata benar. “

Data real-time, akurat penting bagi model ini untuk menghasilkan jawaban yang bermanfaat. Bank secara bertahap menghubungkan datasetnya ke LLM Suite, termasuk semua langganan berita dan pustaka transkrip pendapatan. “Ketika ini terhubung dan didistribusikan ke seluruh populasi, tiba -tiba, karyawan dapat melakukan hal -hal dengan cara otomatis yang tidak pernah bisa mereka lakukan sebelumnya,” kata Waldron. (Bank masih akan membayar langganan berita, tetapi untuk akses di seluruh negeri daripada akun individu.)

“Kami sangat berhati -hati dalam proses meletakkan apa sumber otoritatif, dan sebelum sumber data terhubung ke ekosistem umum, kami memastikan bahwa kami telah menjawab pertanyaan, apakah ini sumber otoritatif yang bertanggung jawab atas integritas, kepemilikan? Apakah itu kontradiktif atau digandakan, versus dataset lainnya?” Kata Waldron.

Namun, pada saat yang sama Jpmorganchase Hati-hati untuk tidak membiarkan datanya tersedot ke dalam model bahasa besar yang menghadap publik seperti chatgpt.

“AI oleh sifat teknologinya mampu menyerap apa pun yang muncul, dan lebih dari sebelumnya, saya pikir institusi pada kebutuhan besar untuk menjadi sangat, sangat berhati -hati dan bijaksana tentang ke mana data mereka pergi,” kata Waldron. “Saat kami membangun sistem kami, kami memiliki semua jaminan yang diperlukan yang kami tahu ke mana data pergi dan bagaimana itu diperlakukan di sepanjang jalan. Dan jelas kami tidak mengizinkan pihak ketiga melatih model mereka pada hak milik Jpmorgan data.”

Ini benar bahkan untuk diminta karyawan. “Di mana kita hari ini, begitu banyak informasi yang tertanam ke dalam prompt,” kata Waldron.

Bagaimana JPMorganChase menggunakan AI

Tujuannya adalah agar setiap karyawan memiliki asisten AI, untuk setiap proses untuk memanfaatkan sistem AI dan untuk setiap pengalaman klien memiliki komponen AI. Ini akan memakan waktu bertahun -tahun.

Model AI generatif umumnya memiliki biaya lisensi per kursi, yang dapat menambah ukuran bank seukuran Jpmorganchase.

“Itu adalah salah satu penghalang jalan untuk adopsi yang meluas, karena para pemimpin bisnis secara alami mengajukan pertanyaan di depan, apa ROI untuk orang itu?” Kata Waldron.

Tetapi karena Jpmorganchase Membangun platform internal, satu -satunya biaya variabel adalah komputasi, katanya. Jika seorang karyawan tidak menggunakannya, bank tidak membayarnya. “Proposisi nilai itu ternyata sangat diinginkan oleh para pemimpin bisnis,” kata Waldron.

Untuk adopsi AI secara keseluruhan dan penggunaan AI, Jpmorganchase telah berada di puncak indeks AI jelas dari peluncuran scorecard pada tahun 2023.

“Mereka mulai sangat awal,” kata CEO yang jelas Alexandra Mousavizadeh kepada Banker Amerika. Bank dapat bergerak cepat karena menciptakan platform data untuk data yang tidak terstruktur dan terfragmentasi dan membuat para pemimpin bisnis mencari kasus penggunaan, katanya.

“Anda harus mengubah pola pikir seluruh organisasi, yang bukan tugas kecil,” kata Mousavizadeh. “Apa yang membuat mereka begitu sukses adalah bahwa mereka mulai sangat awal, seperti pada tahun 2017 mereka membangun laboratorium penelitian AI dan membentuk strategi AI yang jelas. Ada strategi data yang jelas.”

Bank -bank yang baru memulai proses ini sekarang “sudah ada gunung pekerjaan yang harus dilakukan,” katanya. “Mereka bisa sampai di sana, tetapi mereka harus berpikir dengan cepat.”