Jangan salahkan vendor atas bias AI, kata Adrienne Harris kepada para bankir

Adrienne Harris, Pengawas Perbankan New York, memberikan komentar tegas kepada bank mengenai manajemen vendor dan risiko AI.

“Tidak cukup hanya mengatakan bahwa algoritme tersebut diskriminatif, vendor kamilah yang menulis algoritme tersebut, kami tidak tahu cara kerjanya, jadi itu bukan kesalahan kami,” Haris kata dalam obrolan api unggun dengan Pemimpin Redaksi Bankir Amerika Chana Schoenberger di Konferensi Wanita Paling Berpengaruh di Perbankan di New York pada hari Selasa.

Kerangka kerja manajemen risiko vendor pihak ketiga yang ada di New York dan negara bagian lain merupakan jalur yang sudah banyak digunakan, katanya, dan juga berlaku untuk bentuk AI generatif yang lebih baru.

Minggu lalu, NYDFS menambahkan panduan terhadap peraturan keamanan sibernya, 23 NYCRR Part 500, yang berfokus pada risiko keamanan AI.

“Ini jelas merupakan salah satu risiko yang membuat semua orang terjaga di malam hari,” kata Harris.

“Panduan ini dimaksudkan untuk menyoroti praktik terbaik bagi entitas teregulasi kami dan mengatakan, berikut adalah risiko dan ancaman baru yang harus Anda pikirkan dalam bidang keamanan siber” yang ditingkatkan oleh AI, seperti serangan rekayasa sosial yang lebih canggih.

Departemennya juga memikirkan bagaimana perusahaan yang teregulasi menggunakan AI sebagai bagian dari pertahanan mereka, untuk mengidentifikasi vektor ancaman, risiko, dan malware sebelum mereka dapat menimbulkan kerusakan.

Timnya juga berusaha memastikan entitas yang diatur memiliki keahlian yang tepat.

Ketika NYDFS mengeluarkan panduan AI untuk dikomentari, orang-orang mengeluh bahwa pengujian yang diperlukan akan terlalu berat. Namun di perusahaan asuransi AI yang sebelumnya dia bantu pimpin, Harris mengatakan dia melakukan pengujian semacam itu, dengan bantuan tim yang beragam.

Ketika ditanya apa yang paling membuatnya khawatir tentang AI, dia menjawab bahwa akhir-akhir ini dia banyak memikirkan hal tersebut AI agen – “bukan hanya AI yang memberi kita informasi, namun AI yang dapat mengeksekusi keputusan, dan bertindak sebagai agen,” katanya, dan secara otomatis mendapatkan pengembalian dana kepada pelanggan, misalnya.

“Kami telah menghabiskan banyak waktu memikirkan hal itu,” kata Harris. Ada banyak peluang luar biasa di sana, namun juga ada risikonya.