Bank harus mengatasi bias dalam model bahasa yang besar

Dalam lanskap kecerdasan buatan untuk perbankan yang berkembang pesat, 18 bulan terakhir telah menghasilkan evolusi yang menakjubkan dalam teknologi, pemain, dan persepsi industri secara keseluruhan.

Bahkan dengan visi ambisiusnya untuk mentransformasi industri perbankan dan keberhasilan awal yang patut dicatat, AI generatif memiliki satu kelemahan yang terkenal: bias implisit, yang menimbulkan risiko jika tidak diatasi. Misalnya, pada tanggal 26 Februari, perusahaan induk Google, Alphabet, mengalami penurunan kapitalisasi pasar setara dengan total kekayaan bersih Disney setelah produk Gemini dikritik secara luas karena dianggap bias.

Apakah bias AI layak untuk diatasi? Apakah hal ini layak untuk ditangani di perbankan? Sangat. Tapi apa sebenarnya masalahnya dan bagaimana cara memperbaikinya?

Mari kita mulai dengan membahas ekspektasi relevansi dan kesegaran data pelatihan, khususnya dalam konteks konten tertulis. Pada hakikatnya, ketika sebuah kata dituangkan ke dalam kertas (atau ke dalam format elektronik), kata itu sudah merupakan ekspresi masa lalu.

Meski baru ditulis seminggu yang lalu, kini sudah menjadi berita mingguan. Prinsip dasar relevansi dan kesegaran dalam komunikasi manusia ini khususnya memengaruhi model bahasa besar, otak di balik AI generatif. Data pelatihan yang dibutuhkan LLM menggabungkan teks internet dalam jumlah besar dari berbagai periode waktu.

Teks ini mencerminkan posisi masyarakat yang berbeda mengenai berbagai topik dan ditulis dalam bahasa pada masa itu. Kita kemudian dapat mengatakan bahwa LLM menunjukkan “bias” sebagai cara untuk menyederhanakan masalah. Semua budaya memiliki bias budaya yang eksplisit dan implisit. Kami menyadari bahwa teks tersebut tidak pantas karena biasnya tidak sesuai dengan persepsi masyarakat saat ini, yang berarti LLM pada dasarnya dilatih berdasarkan informasi yang sudah ketinggalan zaman.

Terkadang bias mudah diidentifikasi dan diperbaiki. Misalnya, teks pelatihan berukuran besar mungkin berisi dialog yang beracun atau penuh kebencian, yang dalam hal ini teks tersebut akan diidentifikasi dan dihapus.

Untuk adopsi LLM secara luas di perbankan, menghilangkan bias ini tidak hanya diperlukan namun juga diwajibkan secara hukum. Menghasilkan komunikasi pelanggan dengan bias gender atau ras jelas akan mendapat penolakan dari pelanggan dan regulator. Sebagian besar data pelatihan yang digunakan di LLM berasal dari tahun 1990an dan 2000an ketika budaya berbagi teks secara bebas di Internet merupakan hal yang lumrah. Saat ini, lebih banyak konten dalam bentuk gambar dan video atau di balik paywall.

Memasuki tahun 2024, masyarakat kita saat ini telah mengubah pandangannya secara signifikan dalam banyak bidang. Oleh karena itu, paling tidak, pengawasan manusia dan peraturan yang ketat terhadap jenis sensitivitas ini direkomendasikan.

Selain itu, bias budaya mungkin sulit dirasakan oleh individu yang terlibat dalam budaya tertentu. Ini adalah bagian dari “sistem operasi” masyarakat. Ada sejumlah kemajuan teknis terkini yang memungkinkan penyesuaian bias LLM agar sesuai dengan zaman saat ini. Semuanya dimulai dengan mengidentifikasi bias yang ada dalam sistem dan kemudian menggunakan manusia untuk menunjukkan variasi teks mana yang lebih disukai. Ini adalah metode yang digunakan oleh ChatGPT OpenAI serta LLM terkemuka lainnya untuk menambahkan pagar pembatas guna mengatasi beberapa bias yang ada. Proses ini sangat mahal baik dari segi personel maupun waktu komputer.

Dalam dunia perbankan, proses ini perlu ditingkatkan untuk mencegah LLM digunakan untuk aktivitas ilegal yang terang-terangan, seperti peniruan identitas, untuk mendapatkan pinjaman. Penerapan pagar pembatas hanyalah sebuah perkiraan, dan prosesnya harus dikelola dengan hati-hati karena rentan terhadap koreksi berlebihan. Masalah yang berkontribusi terhadap hilangnya nilai Alphabet yang disebutkan di atas adalah tentang produk baru mereka, Gemini, yang melakukan koreksi berlebihan hingga menghasilkan ikonografi para Founding Fathers AS yang secara historis tidak akurat.

Mengatasi bias implisit harus dimulai dari sumbernya. Ada pemahaman yang berkembang di dunia AI generatif bahwa perusahaan yang melatih dan membangun LLM mereka berdasarkan data dan teks berkualitas tinggi yang dikurasi oleh manusia, dibandingkan data dan teks acak dalam jumlah besar, akan memberikan nilai terbaik bagi pelanggan mereka.

Dalam layanan keuangan, sangat penting untuk bermitra dengan vendor yang menggunakan sumber data khusus perbankan berkualitas tinggi untuk membantu memitigasi risiko bias implisit dalam sistem AI yang sedang dikembangkan.

Mengatasi bias memerlukan peralihan ke LLM khusus yang disesuaikan dengan kebutuhan spesifik industri. LLM yang dibangun untuk perbankan menawarkan pengalaman dan fitur yang sama dengan LLM tujuan umum yang lebih besar sekaligus memenuhi persyaratan industri perbankan untuk akurasi, transparansi, kepercayaan, dan penyesuaian.

Model-model ini tidak hanya lebih hemat biaya untuk dibuat dan dioperasikan, namun juga memberikan kinerja yang lebih baik dibandingkan dengan LLM tujuan umum. Selain itu, seiring dengan berkembangnya AI generatif menuju kemampuan multimodal, yang mengintegrasikan teks, gambar, dan modalitas data lainnya, bank akan dapat memanfaatkan kemampuan ini untuk menganalisis beragam jenis informasi dan memberikan wawasan yang lebih komprehensif.