Gedung Putih dan CFPB menghadapi ‘chatbot yang tidak efektif dan membuang-buang waktu’

Gedung Putih dan Biro Perlindungan Keuangan Konsumen adalah mengejar chatbot.

Pada hari Senin, Gedung Putih mengumumkan inisiatif seluruh pemerintah disebut “Waktu Adalah Uang” yang menargetkan berbagai cara korporasi membuang-buang waktu dan uang konsumen, seperti memaksa konsumen melalui proses rumit untuk membatalkan keanggotaan berbayar.

“Perusahaan sering kali sengaja merancang proses bisnis mereka agar menyita waktu atau memberatkan konsumen, agar mereka tidak memperoleh potongan harga atau pengembalian uang yang seharusnya mereka terima atau membatalkan langganan atau keanggotaan yang tidak lagi mereka inginkan — semua itu dengan tujuan memaksimalkan laba,” kata Gedung Putih dalam rilis yang mengumumkan Waktu Adalah Uang.

Dua dari upaya ini dapat berdampak langsung pada perusahaan jasa keuangan jika aturan yang disebutkan dalam pengumuman Gedung Putih menjadi kenyataan.

Pertama, Biro Perlindungan Keuangan Konsumen berencana untuk mengeluarkan peraturan atau panduan untuk menindak tegas tindakan yang tidak efektif chatbot yang digunakan oleh lembaga keuangan sebagai pengganti layanan pelanggan, menurut pengumuman Gedung Putih. Badan tersebut akan mengidentifikasi kapan penggunaan fitur-fitur ini melanggar hukum, termasuk dalam situasi di mana pelanggan yakin bahwa mereka berbicara dengan manusia.

“Meskipun chatbot dapat berguna untuk menjawab pertanyaan dasar, mereka sering kali memiliki kemampuan terbatas untuk memecahkan masalah dan perselisihan yang lebih rumit,” demikian bunyi rilis tersebut. “Sebaliknya, chatbot sering kali memberikan informasi yang tidak akurat dan memberikan jalan pintas kepada pelanggan yang mencari orang sungguhan.”

Upaya ini mengikuti sebuah laporan yang dirilis CFPB tahun lalu yang menguraikan kekhawatiran dari konsumen yang telah mengajukan keluhan tentang chatbot. Hal ini menyoroti potensi fungsi bantuan ini untuk “menyebabkan kerugian besar” saat memberikan informasi yang tidak akurat kepada konsumen atau menunda mereka berbicara dengan agen langsung.

Ada kasus terdokumentasi di luar perbankan yang menggambarkan bahaya ini. Misalnya, pengadilan penyelesaian perdata memerintahkan Air Canada untuk membayar pelanggan diskon berkabung awal tahun ini setelah chatbot-nya memberi tahu dia bahwa dia dapat mengajukan permohonan untuk tarif tersebut secara retroaktif. Maskapai penerbangan tersebut kemudian memberi tahu dia bahwa dia harus mengajukan permintaan tersebut sebelum penerbangan.

Lembaga keuangan juga secara bertahap mengeksplorasi kasus penggunaan untuk kemampuan percakapan didorong oleh kecerdasan buatan generatif. Namun, lembaga keuangan adalah kemungkinan besar akan membatasi AI generatif untuk kasus penggunaan internal.

Upaya Time Is Money juga mengatasi “lingkaran malapetaka” layanan pelanggan, atau pilihan menu dan rekaman yang luas yang menghalangi konsumen untuk menghubungi orang sungguhan. CFPB adalah salah satu lembaga dalam daftar Gedung Putih yang menangani masalah ini. Pengumuman tersebut mengatakan akan memulai proses pembuatan peraturan yang mengharuskan perusahaan di bawah yurisdiksinya untuk menghubungkan pelanggan dengan manusia dengan menekan satu tombol.