Veto RUU AI California membuka pintu bagi revisi yang tidak ramah bank

Gubernur California Gavin Newsom telah memveto rancangan undang-undang yang akan memaksa penyedia model yayasan atau “perbatasan” seperti OpenAI untuk menguji dan mengaudit perangkat lunak mereka, bertanggung jawab atas kerugian yang ditimbulkan oleh model mereka, dan menciptakan “tombol mematikan” yang akan segera menghentikan pekerjaan model. .

Sebaliknya, Newsom mengatakan dia telah menandatangani 17 rancangan undang-undang selama 30 hari terakhir yang mencakup penerapan dan regulasi teknologi AI generatif.

“Ini semua merupakan tindakan penyeimbang bagi Gubernur Newsom,” kata John Cunningham, mitra kepatuhan dan investigasi perusahaan di Dickinson Wright, dalam sebuah wawancara. “Hal ini berkaitan dengan masalah biaya-manfaat dan keseimbangan antara inovasi berkelanjutan di bidang AI dan pengawasan peraturan yang wajar. Jika kita dapat mengendalikan apa yang kita lakukan dengan AI, hal ini akan berdampak baik bagi semua orang.”

Saat menjelaskan mengapa dia memveto RUU tersebut, Newsom mengatakan fokusnya pada penyedia model AI terbesar adalah hal yang salah. “SB 1047 tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau penggunaan data sensitif,” katanya.

Beberapa keputusan paling penting dan data paling sensitif ada di bidang jasa keuangan. Penggunaan AI oleh bank dalam pengambilan keputusan peminjaman dan perekrutan telah diawasi secara ketat oleh regulator, namun tidak tunduk pada undang-undang baru. RUU yang direvisi dan berfokus pada kasus-kasus penggunaan yang lebih berisiko dapat menjadikan bank sebagai sasarannya.

California adalah salah satu dari beberapa negara bagian yang mencoba membatasi AI yang canggih karena tidak adanya undang-undang nasional. California, Pennsylvania, Massachusetts, New Jersey, dan District of Columbia telah menerapkan undang-undang AI selama beberapa waktu. Lima negara bagian lainnya – Colorado, Illinois, Maryland, New York dan Utah – memberlakukan undang-undang AI tahun ini, menurut a pelacak hukum negara bagian dikelola oleh firma hukum Husch Blackwell. Dan delapan negara bagian telah mencoba namun gagal untuk mengesahkan undang-undang AI tahun ini.

Undang-undang AI nasional telah diajukan di Kongres AS. Misalnya, sebuah Undang-Undang Hak Sipil AI diperkenalkan di Senat minggu lalu yang akan melarang diskriminasi berdasarkan algoritme perusahaan, mewajibkan pengujian independen terhadap model AI, dan memastikan konsumen memiliki opsi untuk mengambil keputusan yang dibuat oleh manusia, bukan AI.

RUU yang diveto

Inovasi yang Aman dan Terjamin untuk Model Kecerdasan Buatan Frontier, atau SB 1074, akan menjadi undang-undang AI negara bagian yang paling ketat di negara ini. California telah lama dikenal menerapkan perlindungan konsumen yang ketat. Misalnya, mereka memberlakukan undang-undang perlindungan data yang pertama, yaitu ketentuan yang diambil oleh banyak negara bagian lain.

“California, seperti New York, seringkali menjadi garda depan dalam regulasi,” kata Cunningham. “Jadi banyak orang akan memandang mereka dan berkata, hei, bagaimana kita mulai mengatur peraturan sebelum AI bertindak terlalu jauh, dari sudut pandang peraturan? Banyak orang bergantung pada negara bagian seperti California dan New York. York menjadi pemikir yang lebih mendalam mengenai hal itu.”

SB 1074 akan mengharuskan pengembang model kecerdasan buatan yang besar, seperti OpenAI, Anthropic, Google, dan Meta, untuk menerapkan perlindungan dan kebijakan untuk mencegah bahaya besar. Misalnya, mereka harus menyediakan “tombol mematikan” yang dapat mematikan sistem mereka. Mereka harus memberikan rencana keselamatan dan laporan audit. RUU ini juga akan memberikan perlindungan bagi pelapor dan membentuk badan negara yang disebut Board of Frontier Models untuk mengawasi pengembangan model-model tersebut.

Lebih dari 125 selebriti Hollywoodtermasuk Mark Hamill, Jane Fonda dan Alec Baldwin, menandatangani surat yang mendesak Newsom untuk menandatangani RUU tersebut.

Banyak perusahaan yang terkena dampak RUU ini, termasuk OpenAI, Meta, Google, dan Anthropic, berbasis di California. Di sebuah surat kepada senator Partai Demokrat California, Scott Wiener, yang mengusulkan RUU tersebut, kepala strategi OpenAI Jason Kwon mengatakan RUU tersebut akan menghambat inovasi dan peraturan AI harus diserahkan kepada pemerintah federal.

Newsom mengatakan bahwa fokus RUU hanya pada model yang paling mahal dan berskala besar dapat memberikan rasa aman yang salah kepada masyarakat, sedangkan model yang lebih kecil dan terspesialisasi bisa sama berbahayanya.

Newsom mengatakan proses pemikirannya dalam keputusan ini dipandu oleh beberapa pakar AI, termasuk Fei-Fei Li, profesor ilmu komputer di Universitas Stanford; Tino Cuéllar, anggota Komite Akademi Ilmu Pengetahuan Nasional mengenai Implikasi Sosial dan Etis dari Penelitian Komputasi; dan Jennifer Tour Chayes, dekan Fakultas Komputasi, Ilmu Data, dan Masyarakat di UC Berkeley. Dia telah meminta para penasihat ini untuk membantu mengembangkan pagar pembatas yang bertanggung jawab untuk penerapan AI generatif.

Pakar perbankan mengatakan peralihan dari pengawasan terhadap penyedia model dasar ke undang-undang yang lebih kecil dan lebih spesifik yang mengatur AI generatif merupakan hal yang masuk akal.

“Peraturan yang tertulis terlalu umum dan berisiko mendorong perusahaan-perusahaan inovatif keluar dari California dengan sedikit perlindungan konsumen yang nyata untuk menunjukkan potensi dampak tersebut,” kata Ian Watson, direktur riset di Celent. “Mendorongnya ke tim ahli yang lebih kecil tidak hanya memberi California lebih banyak waktu untuk membentuk konsensus yang lebih nasional tetapi juga membuka kemungkinan untuk merancang serangkaian peraturan industri yang lebih spesifik yang mengatasi masalah nyata bagi konstituen politisi negara bagian.”

Beberapa orang berpendapat bahwa fokus RUU California pada risiko eksistensial AI salah arah.

“AI bisa sangat berbahaya, tapi saya sangat merasakan bahaya langsungnya adalah terhadap konsumen, melalui praktik predator dan pengawasan, dan terhadap institusi demokrasi kita, melalui informasi yang salah dan pengawasan, dan bukan terhadap kelangsungan hidup umat manusia,” kata Patrick Hall, asisten profesor di George Universitas Washington.

Masih terlalu dini untuk mengatakan seperti apa undang-undang baru itu.

“Pesan Newsom sepertinya dia menginginkan rancangan undang-undang yang lebih ketat dan lebih baik, tapi itu tidak berarti dia akan mendapatkannya,” kata Hall. “Penelitian dan pengalaman saya membuat saya percaya bahwa mengatur kasus penggunaan, dan orang-orang di sekitar kasus penggunaan tersebut – seperti membentuk chief model risk officer – jauh lebih efektif daripada mengatur teknologi secara langsung.”

Hall menyukai beberapa aspek dari RUU California yang diveto, seperti persyaratan tombol pemutus (kill switch).

“Saya telah memperjuangkan hal ini selama bertahun-tahun karena jelas bahwa sistem AI terkadang tidak berfungsi dan mematikannya dengan cepat adalah pilihan yang baik dalam beberapa kasus,” katanya.

17 RUU California telah disahkan

17 rancangan undang-undang AI yang ditandatangani Newsom dimaksudkan untuk menindak deepfake, mewajibkan pemberian watermarking AI, melindungi anak-anak dan pekerja, serta memerangi misinformasi yang dihasilkan AI.

Beberapa model berlaku untuk pengembang model yayasan dan perusahaan, seperti bank, yang menggunakan model tersebut.

Misalnya, salah satu rancangan undang-undang (AB 1008) mengklarifikasi bahwa Undang-Undang Privasi Konsumen California berlaku untuk informasi identitas pribadi yang disimpan oleh sistem AI. RUU lainnya (AB 1836), melarang siapa pun memproduksi, mendistribusikan, atau menyediakan replika digital suara atau rupa orang yang telah meninggal tanpa izin sebelumnya.

Yang ketiga, AB 2013, mengharuskan pengembang AI untuk memposting informasi tentang data yang digunakan untuk melatih sistem atau layanan AI di situs web mereka. Ketentuan keempat, SB 942, mengharuskan pengembang sistem AI generatif yang tercakup untuk menyertakan pengungkapan asal dalam konten asli yang dihasilkan sistem mereka dan menyediakan alat untuk mengidentifikasi konten AI generatif yang dihasilkan oleh sistem mereka.