Melihat lebih dekat undang-undang AI perintis di Colorado

Para legislator negara bagian di seluruh negeri telah berupaya untuk meloloskan undang-undang yang meningkatkan perlindungan konsumen terhadap potensi bias dalam model kecerdasan buatan generatifUpaya terkini dari anggota parlemen Colorado merupakan salah satu yang pertama kali mencapai garis akhir.

Perlindungan Konsumen untuk Kecerdasan Buatan (SB24-205) disahkan menjadi undang-undang oleh Gubernur Colorado Jared Polis pada bulan Mei dan berfokus pada “sistem AI berisiko tinggi” yang diklasifikasikan dalam teks RUU tersebut sebagai “sistem yang, ketika diterapkan, membuat, atau merupakan faktor penting dalam membuat, keputusan penting.” Salah satu contoh keputusan penting adalah persetujuan atau penolakan layanan keuangan atau pinjaman.

Berdasarkan undang-undang baru, pengembang diharuskan untuk mengambil “tindakan pencegahan yang wajar” guna melindungi konsumen dari risiko diskriminasi algoritmik. Mereka harus mengungkapkan detail rumit tentang sistem serta dokumentasi yang diperlukan untuk melakukan penilaian dampak kepada para pengguna produk mereka. Pengembang juga perlu menerbitkan pernyataan yang tersedia untuk umum yang menguraikan berbagai sistem yang beroperasi dan bagaimana risiko diskriminasi algoritmik dikelola.

“RUU ini adalah salah satu RUU pertama di negara ini yang berupaya mengatur industri kecerdasan buatan yang sedang berkembang dalam skala seperti itu. … Saya menghargai minat sponsor dalam mencegah diskriminasi dan memprioritaskan perlindungan konsumen karena Colorado memimpin bidang ini,” kata Polis dalam sebuah pernyataan pada bulan Mei. pernyataan penandatanganan. A usaha serupa diperkenalkan di Connecticut pada bulan Februari, tetapi gagal ditandatangani menjadi undang-undang.

RUU tersebut mengharuskan para pelaksana di seluruh negara bagian untuk menerapkan kebijakan dan program manajemen risiko untuk sistem berisiko tinggi, melakukan penilaian dampak terhadap sistem, meninjau setiap penerapan sistem setiap tahun untuk memeriksa bias algoritmik, dan banyak lagi.

Perusahaan yang menggunakan model AI harus memberi tahu Jaksa Agung negara bagian tentang setiap kejadian diskriminasi yang terungkap dalam waktu 90 hari. Jika mereka mematuhi kerangka kerja manajemen risiko yang diakui dan telah mengambil tindakan untuk menemukan dan memperbaiki pelanggaran tersebut, undang-undang memberi mereka hak untuk mengajukan pembelaan tegas yang dapat, jika dikabulkan, meniadakan konsekuensi hukum apa pun.

Pengungkapan seperti yang disampaikan kepada Jaksa Agung, selain proses banding, merupakan bagian penting dari undang-undang tersebut. Para pelaksana harus memberi konsumen kesempatan untuk mengoreksi data pribadi yang digunakan dalam keputusan yang dibuat oleh sistem berisiko tinggi dan mengajukan banding (jika memungkinkan) atas keputusan yang merugikan.

Perubahan tersebut akan berlaku penuh pada tanggal 1 Februari 2026.

“Tujuannya adalah selalu mencoba menyeimbangkan perlindungan konsumen dengan inovasi,” kata Senator Robert Rodriguez, D-Colo., yang merupakan sponsor utama RUU tersebut. “(AI) itu baru, keren, rapi, dan kita semua menyukainya, tetapi ada masalah.”

AI tradisional telah menjadi hal yang paling dipikirkan oleh banyak eksekutif perbankan saat ini peralihan ke pekerjaan jarak jauh akibat pandemi memicu ledakan teknologi di seluruh industri jasa keuangan pada tahun 2020. Namun debut ChatGPT dari OpenAI dua tahun kemudian melihat pergeseran minat ke arah model bahasa besar yang mampu menjalankan tugas yang telah ditentukan sebelumnya dan menciptakan hasil yang benar-benar baru.

Riset dirilis pada bulan Maret oleh Arizent, penerbit American Banker, melakukan jajak pendapat terhadap 127 pakar perbankan di seluruh industri. Lebih dari 45% responden mengatakan bahwa mereka menggunakan atau cenderung menggunakan AI generatif untuk membantu meningkatkan produktivitas kantor secara umum, dengan 36% juga menggabungkan teknologi tersebut ke dalam pencegahan dan pendeteksian penipuan.

Sementara perlindungan konsumen menjadi fokus utama rancangan undang-undang tersebut, sponsor lain mengatakan mereka mencoba merancangnya sedemikian rupa agar tidak menghalangi inovasi di negara bagian tersebut.

Anggota DPR Brianna Titone, D-Colo., mengatakan, memasukkan unsur transparansi dan bekerja sama dengan perusahaan teknologi untuk membantu menyusun undang-undang sangat penting guna membantu menciptakan keseimbangan yang tepat antara regulasi yang berlebihan dan kurangnya pengawasan.

“Banyak perusahaan yang menggunakan AI di Colorado, dan hal terakhir yang ingin kami lakukan adalah menghambat inovasi perusahaan yang telah melakukan banyak pekerjaan hebat. … Ini tentang mencoba menyeimbangkan konsekuensi negatif yang tidak diinginkan dari AI dengan inovasi tersebut,” kata Titone.

Regulator perbankan telah menyatakan pandangan yang berbeda tentang perlunya undang-undang baru untuk mengatur AI. Pada bulan September, Biro Perlindungan Keuangan Konsumen mengeluarkan panduan tentang penggunaan kecerdasan buatan dalam penjaminan dan penjelasan yang diberikan kepada konsumen yang ditolak kreditnya. Biro tersebut mengatakan bahwa kreditor harus memberikan alasan dan rincian spesifik untuk menjelaskan mengapa konsumen ditolak kreditnya atau mengapa batas kredit diubah, terlepas dari apakah keputusan itu dibuat oleh AI.

Pada bulan Januari, pejabat di Badan Penjamin Simpanan Federal mengatakan mereka memiliki alat untuk membuat bank yang menggunakan AI mematuhi peraturan yang berlaku.

Baik lembaga keuangan maupun perusahaan teknologi finansial telah meminta kejelasan lebih lanjut mengenai seperti apa dampaknya terhadap industri mereka, tetapi secara umum merasa siap terhadap pedoman kepatuhan baru karena beroperasi dalam lingkungan yang sudah sangat diatur.

Pakar hukum yang mengkhususkan diri dalam teknologi ini mengatakan bahwa ketika mengadopsi alat bertenaga AI, pencatatan dan tinjauan audit merupakan praktik terbaik dan dalam beberapa kasus merupakan persyaratan karena kompleksitas modelnya.

“Satu pesan yang jelas dari undang-undang dan penegakan hukum yang baru: ketidaktahuan tentang pengoperasian sistem AI bukanlah alasan, dan regulator seperti Komisi Perdagangan Federal meminta pertanggungjawaban pengembang dan pengguna teknologi AI atas dampaknya,” kata James Sherer, mitra di BakerHostetler dan salah satu pemimpin tim teknologi baru dan AI di perusahaan tersebut.

Bersamaan dengan RUU baru Colorado, anggota parlemen di negara bagian tersebut telah meloloskan tindakan lain untuk membentuk gugus tugas AI yang beranggotakan 26 orang terdiri dari empat anggota legislatif dan 22 tokoh industri yang mewakili entitas dari industri AI. Kelompok ini akan membantu menyusun rekomendasi untuk peraturan lebih lanjut dan menetapkan kode etik untuk mengevaluasi dampak penggunaan AI di negara bagian tersebut.

Jalur inovasi ke depan tidak pasti dan akan sangat bervariasi tergantung pada setiap kasus penggunaan.

“Kita mungkin akan melihat beberapa bentuk pendekatan tol, di mana kasus penggunaan berisiko rendah didorong dengan pengawasan minimal, kasus penggunaan berisiko sedang menerima pengawasan, transparansi, dan pelaporan yang lebih ketat, dan kasus penggunaan berisiko tinggi yang melibatkan hak-hak substansial atau mendasar (tunduk pada) persyaratan ketat dan dalam kasus tertentu, larangan,” kata Joel Wuesthoff, direktur pelaksana di firma konsultan global Protiviti.