Bank menavigasi penggunaan chatgpt pekerja, menetapkan kebijakan AI

Chatgpt sekarang memiliki lebih dari 400 juta pengguna mingguan aktif; Selain itu, lebih dari 2 juta orang menggunakan versi perusahaan yang disediakan oleh perusahaan mereka.

Di banyak perusahaan, karyawan juga menggunakan model bahasa besar yang tersedia untuk umum dengan cara yang tidak disetujui dan tidak diawasi. Terkini Penelitian McKinsey menemukan bahwa sementara pemimpin C-suite memperkirakan bahwa hanya 4% dari karyawan mereka menggunakan AI generatif untuk setidaknya 30% dari pekerjaan sehari-hari mereka, 13% dari laporan sendiri bahwa mereka menggunakannya untuk 30% atau lebih dari tugas mereka.

Penggunaan gen AI yang produktif ini berarti semua perusahaan, termasuk bank, membutuhkan kebijakan penggunaan AI yang menjabarkan di mana dan bagaimana karyawan dapat menggunakan teknologi tersebut, yang mencakup Claude Anthropic, Microsoft Copilot, Llama Meta dan Google Gemini, serta chatgpt.

“Setiap perusahaan pada saat ini harus memiliki semacam kebijakan AI,” kata Aslam Rawoof, mitra di Benesch Law di New York. Ini lebih berlaku untuk bank daripada untuk perusahaan yang kurang diatur, katanya, karena risiko bahwa data pelanggan dapat dimasukkan ke dalam model bahasa yang besar.

“Orang -orang menjadi bersemangat, dan mungkin mereka mulai mengetik informasi klien ke chatgpt,” kata Rawoof. “Tetapi ketika Anda melakukan itu, ChatGPT mengambil semua masukan yang diterimanya dari mana saja di dunia dan melatih dirinya sendiri. Bahkan orang -orang yang merancangnya tidak tahu bagaimana memproses informasi. Jadi informasi klien yang Anda berikan di New York dapat muncul di Tokyo besok sebagai tanggapan atas beberapa pertanyaan.”

Hal yang sama berlaku untuk informasi perusahaan yang sensitif, katanya. “Anda tidak ingin mengunggah dokumen apa pun seperti dokumen keuangan perusahaan, tentu saja bukan tanpa persetujuan profesional teknologi Anda,” kata Rawoof. Komunikasi dengan regulator dan pengacara juga termasuk dalam kategori ini.

Apa yang terlarang

Beberapa bulan setelah Openai merilis ChatGPT kepada publik pada bulan November 2022, JPMorgan Chase, Citigroup, Bank of America, Deutsche Bank, Goldman Sachs dan Wells Fargo semuanya melarang karyawan menggunakannya.

Tahun lalu, beberapa lembaga tersebut Versi yang dipagari, perusahaan chatgpt dan model serupa untuk digunakan karyawan dalam lingkungan bank.

Hari ini, larangan AI generatif yang menghadap publik sebagian besar telah diangkat-meskipun beberapa masih melarang model Deepseek-dan diganti dengan kebijakan penggunaan AI generatif.

Beberapa penggunaan gen publik AI umumnya terlarang di bank, kata Chris Nichols, direktur pasar modal di Southstate Bank di Winter Haven, Florida.

“Sebagian besar bank yang saya ajak bicara membatasi penggunaan AI generatif yang menghadap publik dengan informasi rahasia, sehingga itu adalah garis yang jelas di pasir,” kata Nichols. “Sebagian besar bank sampai pada kesimpulan sejak awal bahwa Anda tidak akan memasukkan informasi hak milik dari bank atau informasi pelanggan Anda ke dalam versi publik Chatgpt.”

Penggunaan AI generatif lainnya tidak mengancam. Misalnya, menggunakan model bahasa besar untuk mengambil informasi dari database umumnya dianggap jinak. “Tidak ada kecerdasan besar di sana, dan yang benar -benar Anda butuhkan untuk memastikan akurasi, dan itu tidak beracun,” katanya.

Apa yang ada dalam kebijakan AI Banks

“Kebijakan AI yang telah saya lihat di sebagian besar bank cukup tidak dewasa, dan saya tidak bermaksud dengan meriah,” kata Nichols. “AI berubah begitu cepat sehingga sulit untuk menjaga kebijakan tetap up to date.”

Kebijakan AI-Use Banks perlu dengan jelas menggambarkan bagaimana karyawan dapat atau tidak dapat berbagi informasi sensitif, seperti data pelanggan dan perusahaan, dengan model AI, kata Rawoof.

Mereka harus menetapkan tujuan, ruang lingkup upaya, peran dan tanggung jawab, standar tingkat tinggi dan irama pertemuan komite kebijakan AI, kata Nichols. ;

Rawoof merekomendasikan memulai dengan melakukan survei karyawan anonim untuk memahami bagaimana orang menggunakan AI dan mendapatkan masukan dari pemangku kepentingan di seluruh perusahaan.

“Tapi jangan menghabiskan semua kemungkinan dan mencoba menyusun kebijakan AI yang sangat rumit,” katanya. “Lakukan saja sesuatu yang relatif sederhana untuk memulai, dan kemudian pastikan bahwa Anda memeriksanya secara berkala, dan kemudian menambahkan lebih banyak detail untuk itu saat Anda belajar lebih banyak, karena kami masih sangat banyak pada tahap awal AI. Mengambil satu tahun dan memiliki lima sub -komite AI yang disengaja untuk menulis kebijakan yang sempurna adalah konyol karena mungkin akan diperlihatkan saat Anda menghasilkannya.”

Kelompok Kerja Kebijakan AI perlu melapor kepada seseorang di tingkat C. Harus ada penjangkauan kepada dewan direksi juga, kata Rawoof.

“Dewan harus memberikan semacam pernyataan atau dukungan untuk inisiatif ini,” kata Rawoof. “Kalau tidak, orang tidak akan menganggapnya serius.”

Dalam diskusi Reddit, pengguna telah melaporkan bahwa mereka berhasil mendapatkan chatgpt untuk menulis kebijakan untuk mereka.

“Aku tidak akan merekomendasikan itu,” kata Rawoof. “Saya akan mulai dengan melakukan survei untuk mencari tahu bagaimana orang -orang di perusahaan sebenarnya menggunakan AI.” Itu harus anonim, tanpa tuduhan, karena orang mungkin tidak mengikuti aturan perusahaan yang ada.

Posting di depan umum kebijakan AI adalah praktik berbahaya, kata Rawoof.

“Menempatkan topi pengacara saya, jika Anda memiliki kebijakan dan tidak mengikutinya, Anda pada dasarnya memberi penggugat peta jalan untuk menuntut Anda, karena dalam penemuan, mereka akan mengatakan, menunjukkan kepada saya semua kebijakan perusahaan Anda dan kebijakan AI ini akan muncul,” katanya. Penggugat dapat dengan mudah menanyakan proses apa yang digunakan perusahaan untuk menegakkan kebijakan tersebut. “Jika tidak ada yang memiliki jawaban yang bagus, maka Anda akan kehilangan kasus di sana karena perusahaan bahkan tidak mengikuti kebijakannya sendiri.”

Southstate Bank telah memiliki kebijakan AI dan kelompok kerja AI sejak awal, kata Nichols.

Kebijakan AI dapat menderita kematian oleh komite, jika terlalu banyak orang dari berbagai departemen – risiko, hukum, penjualan, SDM, dll. – terlibat, masing -masing dengan sudut pandangnya sendiri.

Ini adalah “persis apa yang telah dialami sebagian besar bank selama dua tahun terakhir,” kata Nichols.

Salah satu masalah yang telah muncul dalam satu setengah tahun terakhir adalah bahwa aplikasi AI menjadi tertanam dalam perangkat keras atau perangkat lunak yang ada, tanpa pengguna diberi pilihan atau bahkan diberi tahu itu terjadi.

“Ini muncul di mana -mana,” kata Nichols. “Secara teknis, sesuai kebijakan kita, kita perlu menyetujuinya, itu perlu masuk pada lembar inventaris, bank harus mengujinya, lihat apakah itu cocok, lihat apakah itu memberi Anda jawaban yang akurat.”

Sementara modul AI tersembunyi ini mungkin tidak masalah di bidang -bidang seperti pengambilan informasi, mereka memang penting untuk tugas -tugas seperti penjaminan kredit. “Kami ingin tahu persis apa yang dilakukannya, dan sulit untuk mengetahuinya,” kata Nichols.

Akibatnya, SouthState menambahkan beberapa pertanyaan tentang penggunaan AI dan AI ke proses onboarding vendornya.

Menegakkan kebijakan AI mirip dengan menegakkan kode etik – sebuah perusahaan melakukannya dengan mengingatkan karyawan tentang kewajiban mereka, mungkin membuat mereka menandatangani pengakuan bahwa mereka membacanya, dan pelatihan, kata Rawoof.