‘Puncak gunung es’: Bagaimana UU AI UE akan berdampak pada bank-bank di AS

Itu Uni Eropa Kecerdasan Buatan Undang-undang ini bisa berdampak pada lembaga-lembaga keuangan AS seperti yang terjadi di UE Peraturan Perlindungan Data Umum dirasakan di seluruh dunia.

Undang-undang tersebut, yang dimaksudkan untuk “melindungi dari dampak berbahaya sistem AI di Uni Eropa” dan membangun kepercayaan terhadap teknologi dengan menetapkan batasan dalam penggunaan AI, merupakan kerangka hukum pertama di dunia yang melakukan hal tersebut. Ini akan melarang, terutama yang berisiko praktik AI dan menetapkan persyaratan bagi pihak lain, dengan denda mencapai hingga 35 juta euro atau 7% dari pendapatan global jika tidak mematuhinya.

American Banker menghubungi lebih dari selusin bank besar dan serikat kredit yang berbasis di AS serta bank-bank Eropa yang hadir di AS untuk menanyakan bagaimana tindakan tersebut akan berdampak pada mereka dan apa yang mereka lakukan untuk mempersiapkannya. Semuanya menolak memberikan komentar atau tidak menanggapi permintaan komentar.

Namun penyedia, pengembang, atau penerapan sistem AI – yang didefinisikan dalam undang-undang tersebut sebagai sistem berbasis mesin yang dirancang untuk beroperasi dengan berbagai tingkat otonomi, yang mungkin menunjukkan kemampuan beradaptasi setelah penerapan, dan yang menghasilkan keluaran yang dapat memengaruhi lingkungan fisik atau virtual – perlu menginventarisasi sistem AI mereka dan menentukan di mana letak kewajiban mereka.

“Perusahaan AS, termasuk lembaga keuangan, harus mematuhi UU AI UE segera setelah mereka meluncurkan atau menggunakan teknologi AI di pasar UE, terlepas dari apakah mereka hadir di wilayah tersebut,” kata Tanguy van Overstraeten, yang berasal dari Brussel. , mitra teknologi, media, dan telekomunikasi yang berbasis di Belgia di firma hukum Linklaters dan kepala perlindungan data global di firma tersebut.

Tindakan ini tidak memperlakukan semua sistem AI secara setara. Sistem yang dianggap membawa risiko yang “tidak dapat diterima”, seperti sistem yang memanipulasi orang untuk membuat keputusan yang merugikan, akan langsung dilarang. Penerapan AI yang berisiko tinggi, yang dapat mencakup perangkat lunak untuk rekrutmen pekerjaan atau penilaian kredit, harus mematuhi batasan tertentu sebelum diterapkan. Terdapat aturan yang lebih ringan untuk aplikasi “risiko terbatas” dan tidak ada batasan pada aplikasi minimal atau tanpa risiko.

Misalnya saja jika sebuah bank di Amerika mengembangkan sistem berbasis AI penilaian kredit sebagai alat untuk pasar AS namun berencana untuk meluncurkannya di UE atau mengevaluasi kelayakan kredit manusia di UE, teknologi tersebut akan termasuk dalam cakupan UU AI UE.

Dalam skenario ini, bank memerlukan kerangka manajemen risiko dan kualitas yang kuat serta memastikan bank hanya mengandalkan data berkualitas tinggi. Mereka perlu mendokumentasikan sistem dan cara kerjanya secara menyeluruh, dan menunjukkan adanya campur tangan manusia jika diperlukan, kata Joshua Ashley Klayman, penasihat senior di Linklaters di New York.

“Ini adalah sesuatu yang mungkin belum terpikirkan oleh bank-bank AS,” katanya.

Penggunaan AI generatif dalam konteks sumber daya manusia – seperti untuk rekrutmen dan seleksi, menentukan promosi, menghitung bonus, atau mengevaluasi karyawan – juga dapat menghambat bank karena termasuk dalam kategori “berisiko tinggi”.

“Penggunaan AI dalam sebagian besar pengambilan keputusan di tempat kerja dianggap menimbulkan risiko bahaya yang signifikan,” kata Jennifer Granado Aranzana, rekanan pengelola ketenagakerjaan di Linklaters di Brussels.

Mereka yang memiliki jejak perbankan ritel atau bisnis minimal di Eropa menghadapi risiko yang lebih kecil, namun bank-bank dari semua ukuran harus memperhatikan.

“UE adalah negara pertama yang mencapai garis akhir, namun banyak konsep inti seputar pengelolaan AI mungkin akan berkembang menjadi praktik terbaik di pasar lain,” kata John Carey, direktur pelaksana di Aarete, sebuah perusahaan konsultan manajemen dan teknologi global.

Undang-undang AI UE hadir bersamaan dengan undang-undang lainnya cetak biru atau tagihan muncul di pemerintahan AS atau di tingkat negara bagian.

“AS selalu berupaya untuk melakukan inovasi, namun ada pro dan kontra terhadap hal tersebut,” kata van Overstraeten. “UE selalu memupuk elemen kepercayaan. Jika Anda ingin menerapkan teknologi baru, hal pertama yang Anda perlukan adalah lebih banyak batasan.”

Ia menyebut UU AI UE sebagai “puncak gunung es”.

Perundang-undangan ini masih dalam tahap awal implementasi dan diresmikan pada 1 Agustus. Aturan seputar model AI tujuan umum mulai berlaku pada 2 Agustus 2025, dan aturan seputar model AI tertentu yang berisiko tinggi akan diberlakukan mulai 2 Agustus. , 2026 — dua elemen yang kemungkinan besar relevan bagi bank.

Bank dapat memulai dengan menentukan cara mematuhi UU AI UE, memetakan sistem yang mereka gunakan dan kategori risiko yang termasuk dalam sistem tersebut, dan melatih karyawan, termasuk SDM, untuk mewaspadai jebakan halus yang muncul saat menggunakan AI yang melanggar peraturan. tindakan itu.

“Terlepas dari apakah sebuah bank termasuk dalam UU AI UE atau tidak, kami merekomendasikan agar mereka membangun kerangka tata kelola AI dan inventaris AI, serta melaporkan kepada dewan direksi dan manajemen senior mengenai risiko AI di dalam bank,” kata Rani Bhuva, prinsipal di MATA.