FINRA menavigasi ‘pencucian AI’ saat perusahaan meluncurkan gen AI yang dapat diakses oleh klien

Dengan adanya perlombaan untuk menanamkan AI generatif ke dalam produk keuangan, bank dan perusahaan keuangan ditantang untuk menjelaskan kemampuannya kepada pelanggan. Mereka ingin memuji keunggulannya – layanan yang lebih cepat, pengalaman chatbot percakapan, dan analisis akun yang berkualitas, misalnya – namun mereka juga berisiko melebih-lebihkannya. Dan hal ini bisa menjadi masalah bagi regulator.

Pencucian AI – contoh ketika perusahaan melebih-lebihkan kemampuan AI, atau tidak jelas tentang bagaimana atau mengapa AI digunakan – adalah risiko yang sedang dievaluasi oleh regulator, kata panelis pada konferensi regulasi periklanan Financial Industry Regulatory Authority (Otoritas Regulator Industri Keuangan) bulan lalu di Washington, DC

“Kami telah mendengar kekhawatiran etis dari Komisi Sekuritas dan Bursa (SEC) mengenai apa yang disebut dengan AI washing (pencucian AI), di mana mereka merasa bahwa pelaku industri jasa keuangan … sudah berlebihan dalam ikut serta dalam AI,” termasuk pernyataan yang menyesatkan atau salah tentang sejauh mana AI digunakan untuk mengelola portofolio, dan apakah investasi benar-benar didorong oleh AI atau hanya sekedar berdekatan dengan AI, kata Amy Sochard, wakil presiden di FINRA.

Semakin banyak perusahaan yang menyebutkan AI dalam laporan pendapatan mereka mungkin meningkatkan kekhawatiran tentang kemungkinan pencucian AI: Riset yang FactSet dilepaskan pada bulan September menemukan bahwa lebih dari 40% perusahaan S&P 500 menyebutkan AI dalam laporan pendapatan kuartal kedua mereka.

Ketua SEC Gary Gensler memperingatkan konsekuensi dari pencucian AI di a video bulan lalu, ia mengatakan bahwa penasihat investasi dan pialang tidak boleh menyesatkan masyarakat dengan mengatakan bahwa mereka menggunakan AI padahal sebenarnya tidak, atau jika mereka mengatakan bahwa mereka menggunakan AI, hal itu akan dilakukan “dengan cara tertentu” padahal sebenarnya mereka menggunakan AI. tidak melakukan hal tersebut.

“Pencucian AI seperti itu, baik yang dilakukan oleh perusahaan penggalangan dana atau perantara keuangan… mungkin melanggar undang-undang sekuritas,” kata Gensler. Dalam kasus SEC yang diajukan tahun ini terhadap perusahaan yang dituduh melakukan pencucian AI, regulator diklaim mereka membuat kebohongan dan penafsiran yang keliru.

Menjaga ekspektasi tetap terkendali

Mencirikan pencucian AI sebagai jenis pemasaran “rasa bulan ini”, Sochard mencatat bahwa FINRA berupaya mengevaluasi keakuratan klaim pemasaran.

“Jika ada prospektusnya, kami akan melihatnya, atau kami akan meminta informasi lebih lanjut dari perusahaan tersebut…apakah itu layanan dari perusahaan tersebut atau produk yang mereka jual, cara kerjanya dan apa sebenarnya yang ada di balik layar, ” katanya.

Philip Shaikun, wakil presiden dan penasihat umum asosiasi di FINRA, menegaskan bahwa semua peraturan FINRA dan undang-undang sekuritas federal akan terus berlaku untuk AI generatif, sebagaimana diuraikan dalam peraturannya. mendekati dirilis awal tahun ini. Dia mengatakan pemberitahuan FINRA juga berfungsi sebagai seruan untuk meminta masukan dari perusahaan yang menggunakan AI generatif untuk mengumpulkan wawasan tentang tantangan yang dihadapi perusahaan. Komentar awal dari perusahaan berkaitan dengan pencatatan konten AI generatif.

Menangani halusinasi dan risiko pengungkapan

Mengingat risiko model AI yang berhalusinasi dan memberikan jawaban yang salah, perusahaan perlu memastikan manusia mengawasi dan meninjau konten dengan benar, kata para panelis.

“Manusia harus mengetahui perkembangannya,” kata Brad Ahrens, wakil presiden senior untuk analisis lanjutan di FINRA. “Modelnya akan berhalusinasi. Mereka akan memberikan jawaban yang salah.” Menurut riset dari startup AI Vectara, model AI populer dapat berhalusinasi antara 1% dan 30% sepanjang waktu.

Perusahaan juga perlu melihat AI yang digunakan oleh vendor untuk kemungkinan klaim pencucian AI. Ini mungkin berarti peninjauan klaim terkait akurasi penggunaan AI generatif, dan memeriksa apakah kemampuan AI baru diaktifkan secara default, kata Ahrens.

Kendala utama dalam mengatasi masalah pencucian AI adalah kurangnya definisi yang seragam di antara perusahaan. Ahrens mengambil pandangan luas tentang bagaimana AI didefinisikan, berpegang pada “menggunakan komputer untuk membuat prediksi” yang teruji dan benar.

Kasus penggunaan AI generatif

Melihat ke masa depan, para panelis menawarkan pandangan beragam mengenai peluang dan risiko teknologi. Ahrens mengatakan menurutnya laju inovasi pada AI siap untuk dipercepat, dengan semakin meningkatnya penekanan pada hal tersebut penggunaan AI sebagai agen.

AI generatif, dengan menangani beberapa tugas rutin, berpotensi meningkatkan efisiensi alat kepatuhan dan membebaskan manusia untuk menangani “bidang risiko tertinggi,” kata Shaikun. Kasus penggunaan yang dihadapi konsumen akan meningkat karena mereka menjadi lebih percaya diri dalam upaya mengekang halusinasi, katanya.

Panelis lain menyoroti risiko-risiko yang muncul. Shakun mengatakan investor – terutama pendatang baru di pasar – bisa menjadi terlalu bergantung pada AI generatif untuk memberikan nasihat investasi.

Yang lain menunjuk pada konsekuensi negatif yang mungkin timbul dari pemodelan berdasarkan karakteristik perilaku manusia.

“Sistem AI telah mampu dan terbukti dalam penelitian untuk memodelkan perilaku dan gejala yang terkait dengan depresi, kecemasan,” kata Rachel Chudoba, ahli strategi senior perencanaan dan penelitian di McCann Worldgroup. Sistem AI dapat “menyebarkan lebih banyak iklan kepada orang-orang ini dalam jangka waktu tertentu ketika mereka cenderung melakukan pembelian impulsif,” yang menggarisbawahi perlunya kerangka etika yang mengatur sistem AI.