Senator mengusulkan UU Hak Sipil AI untuk mengatasi ‘sisi jahat’ kecerdasan buatan

Sebuah rancangan undang-undang yang diperkenalkan di Senat AS pada hari Selasa bertujuan untuk melarang diskriminasi oleh algoritma korporat dan memastikan konsumen memiliki pilihan untuk membuat keputusan oleh manusia, bukan kecerdasan buatan.

Itu Undang-Undang Hak Sipil AI akan memaksa perusahaan yang mengembangkan algoritma AI untuk menguji algoritma mereka guna mengetahui tanda-tanda diskriminasi. Undang-undang perdata, jika disahkan, dapat memaksa bank untuk memikirkan kembali cara mereka menggunakan AI di berbagai bidang seperti keputusan pinjaman dan perekrutan. Bank sudah tidak diperbolehkan melakukan diskriminasi secara ilegal dalam praktik pinjaman dan perekrutan mereka. Namun, aturan seputar transparansi dan hak konsumen untuk tidak menggunakan AI dapat memerlukan perubahan besar dalam proses dan teknologi.

“Kecerdasan buatan adalah topik terhangat tahun ini, tetapi algoritme yang rumit ini juga memiliki sisi gelap, yang memiliki konsekuensi nyata bagi masyarakat umum, mulai dari menetapkan tarif hipotek dan asuransi hingga menyeleksi pelamar kerja untuk menentukan kelayakan mendapatkan tunjangan,” kata sponsor Senator Edward Markey, D-Mass., Selasa. “Perusahaan telah menggunakan algoritme kotak hitam selama bertahun-tahun untuk membuat keputusan besar tentang kehidupan warga Amerika. Namun, algoritme ini sering kali bias terhadap komunitas yang terpinggirkan.” Senator Mazie Hirono, D-Hawaii, adalah salah satu sponsor RUU tersebut.

Markey mengusulkan Undang-Undang Penghapusan Bias dalam Sistem Algoritmik tahun 2023 pada bulan Desember, untuk mewajibkan lembaga pemerintah yang menggunakan, mendanai, atau mengawasi algoritma untuk memiliki kantor hak sipil yang berfokus pada bias AI. RUU tersebut dirujuk ke Komite Keamanan Dalam Negeri dan Urusan Pemerintahan, yang menunggu pertimbangan.

Dalam pengumuman hari Selasa, Markey mengatakan prinsip pertama RUU tersebut adalah kesetaraan: RUU tersebut melarang perusahaan mengembangkan atau menggunakan algoritma bertenaga AI untuk keputusan penting yang mendiskriminasi berdasarkan ras, jenis kelamin, atau karakteristik yang dilindungi lainnya.

Prinsip kedua adalah transparansi: Perusahaan harus menguji dan mengevaluasi algoritma mereka secara independen untuk mengidentifikasi dan mengurangi segala bentuk diskriminasi.

“Ketentuan ini mengirimkan pesan ke Silicon Valley,” kata Markey. “Era AI tidak dapat didorong oleh pola pikir ‘bergerak cepat dan merusak segalanya’ yang diadopsi secara bodoh oleh Big Tech selama dua dekade terakhir.”

Prinsip ketiga adalah pilihan: memberikan setiap konsumen hak agar keputusan-keputusan besar dibuat oleh manusia.

“Kita tahu ada kualitas Dickensian pada AI,” kata Markey. “AI merupakan teknologi terbaik dan terburuk secara bersamaan. AI dapat memberdayakan, tetapi dapat pula merusak dan dapat melakukan keduanya secara bersamaan. Jadi, kita harus melindungi diri dari sisi jahat dunia maya karena AI menjadikan teknologi yang tak terelakkan ini kuat, dengan kesetaraan, transparansi, dan pilihan.”

Perusahaan yang melanggar undang-undang ini akan dikenakan sanksi perdata sebesar $15.000 per pelanggaran, atau 4% dari rata-rata pendapatan tahunan kotor terdakwa selama tiga tahun sebelumnya, mana yang lebih besar, menurut teks undang-undang tersebut.

Belum banyak kasus besar yang melibatkan bank atau fintech yang menggunakan AI yang bias.

Dua tahun lalu, sebuah firma hukum yang memantau kepatuhan pinjaman yang adil menemukan tingkat persetujuan pinjaman yang lebih rendah untuk pemohon kulit hitam di pinjaman online. pemberi pinjaman konsumen Upstart HoldingsFirma hukum Relman Colfax mengatakan bahwa kesenjangan tersebut tidak dengan sendirinya “menunjukkan pelanggaran pemberian pinjaman yang adil” dan tidaklah aneh, tetapi mereka merekomendasikan model yang “kurang diskriminatif” untuk diadopsi Upstart.

Regulator industri perbankan sudah mulai waspada terhadap bias. Pada tahun 2022, Biro Perlindungan Keuangan Konsumen menyatakan bahwa diskriminasi terkait dengan produk keuangan apa pun — bukan hanya kredit — adalah ilegal. Pada tahun 2023, Wakil Ketua Pengawasan Fed Michael Barr mengatakan bank sentral akan menggabungkan penyaringan untuk praktik diskriminatif ke dalam kerangka pengawasannya, termasuk mengevaluasi permohonan merger dan akuisisi.

Para pemimpin advokasi konsumen yang hadir pada pengumuman tersebut menyuarakan dukungannya terhadap RUU tersebut.

“Seiring dengan semakin banyaknya adopsi dan penyebaran AI di berbagai industri, pelajaran lama yang sulit didapat menjadi jelas: kesempatan yang sama dan hak-hak sipil tidak dapat dikesampingkan oleh inovasi dan kemajuan teknologi,” kata Damon Hewitt, presiden dan direktur eksekutif Lawyers Committee for Civil Rights. “Keduanya dapat dan harus dihubungkan.”

Algoritma digunakan untuk membuat keputusan tentang semua aspek kehidupan sehari-hari warga Amerika, termasuk “siapa yang dibebaskan dengan jaminan, siapa yang dapat menyewa rumah, di mana kita dapat bersekolah, dan siapa yang dianggap sebagai ancaman,” kata Hewitt. “Dan terlalu sering, keputusan tersebut tidak dibuat secara adil dan jujur, dan tentu saja tidak transparan.”

Craig Aaron, salah satu CEO Free Press Action, mengatakan RUU tersebut akan mengharuskan mereka yang merancang perangkat AI untuk melakukan audit terhadap potensi bahaya dan membagikan hasilnya kepada publik.

“Sudah terlalu lama tidak ada masukan publik atau upaya hukum publik ketika sistem tersembunyi ini menyebabkan kerugian di dunia nyata,” kata Aaron. “Undang-Undang Hak Sipil AI mengambil langkah besar untuk mengatasi masalah mendesak ini dan memberdayakan regulator federal untuk mengikuti perkembangan teknologi.”