FTC mengambil tindakan terhadap lima perusahaan yang menggunakan AI dengan cara curang

Komisi Perdagangan Federal menindak perusahaan yang menggunakan kecerdasan buatan untuk merugikan konsumen dengan tindakan penegakan hukum yang disebut Operation AI Comply.

Pada hari Rabu, badan tersebut mengumumkan lima tindakan penegakan hukum terhadap perusahaan yang dikatakan menggunakan AI dengan cara yang menipu. Hal ini mencakup tiga perusahaan yang bergerak di bidang e-commerce di mana konsumen menginvestasikan uangnya ke toko online yang menghasilkan sedikit pendapatan, jika tidak ada, dan mengirim sebagian ke utang kartu kredit. Kelima kasus ini mengikuti beberapa tindakan FTC baru-baru ini terhadap perusahaan yang menggunakan AI dengan cara yang eksploitatif atau tidak jujur, termasuk perusahaan etalase online lainnya bernama Automakers AI, yang menyelesaikan kesepakatan dengan FTC pada bulan Februari.

Tiga perusahaan e-commerce yang menjadi sasaran penyisiran ini sering kali membuat klaim dalam upaya pemasaran mereka tentang bagaimana AI akan memaksimalkan keuntungan bagi etalase online konsumen.

“Kasus-kasus yang termasuk dalam penyisiran ini menunjukkan bahwa perusahaan-perusahaan telah memanfaatkan hype seputar AI dan menggunakannya untuk memikat konsumen ke dalam skema palsu,” bunyi siaran pers tersebut.

Pada saat yang sama, hype seputar AI sedang diredam kekhawatiran di sekitar sisi gelapnya dalam jasa keuangan, dari penggunaannya di penciptaan identitas sintetik ke deepfake yang dapat membahayakan pembayaran biometrik dan pertanyaan tentang apakah itu Potensi untuk memperluas pinjaman kepada individu yang kurang terlayani harus mengorbankan akurasi. Sebuah RUU diperkenalkan di Senat AS pada pidato hari Selasa diskriminasi dalam algoritma AI.

Tiga perusahaan e-commerce yang tergabung dalam Operation AI Comply diduga memberikan peluang bagi konsumen untuk memperoleh pendapatan ribuan atau puluhan ribu dengan imbalan membayar mereka jumlah yang sama untuk membuka etalase online atau menerima pelatihan. Mereka diduga menahan pengembalian uang ketika konsumen mengeluh atau mengancam mereka dengan tindakan hukum karena menulis ulasan negatif. Kasus terhadap masing-masing kasus masih berlangsung dan akan diputuskan oleh pengadilan federal.

Misalnya, salah satu perusahaan yang disebutkan dalam penyisiran, Ascend Ecom, diduga menipu konsumen sebesar lebih dari $25 juta dengan menagih mereka untuk membuka toko online di platform e-commerce seperti Amazon atau Etsy. Perusahaan mengklaim bahwa hal ini akan menghasilkan pendapatan bulanan sebesar lima digit, dengan bantuan alat yang didukung AI dari Ascend untuk “memaksimalkan… kesuksesan bisnis”.

“Sebenarnya, hampir tidak ada klien Ascend yang memperoleh pendapatan seperti yang diiklankan,” demikian bunyi keluhan FTC, yang diajukan pada tanggal 9 September. “Sebagian besar kehilangan seluruh investasi mereka, dan beberapa dibebani dengan utang kartu kredit yang memberatkan. Banyak toko online yang Ascend yang didirikan dan dikelola untuk kliennya di Amazon dan Walmart telah ditangguhkan, dan pada akhirnya dihentikan, oleh Amazon dan Walmart karena pelanggaran kebijakan.”

Ecommerce Empire Builders menagih konsumen ribuan dolar untuk program pelatihan atau etalase online yang terpasang sepenuhnya “didukung oleh kecerdasan buatan” yang diklaim akan menghasilkan $10.000 per bulan. Kenyataannya, konsumen menyadari bahwa toko online mereka menghasilkan sedikit atau bahkan tidak menghasilkan uang sama sekali dan kesulitan mendapatkan pengembalian dana penuh dari EEB.

Yang ketiga bernama Passive Scaling sebelum keluhan dan tuntutan hukum pelanggan memicu rebranding menjadi FBA Machine pada tahun 2023. Perusahaan ini juga menjajakan etalase online di platform e-commerce seperti Amazon dan Walmart, di mana konsumen harus menginvestasikan puluhan ribu dolar untuk itu. toko yang dikelola sepenuhnya dengan janji menghasilkan ribuan pendapatan pasif. Dalam kasus Mesin FBA, mereka mengklaim menggunakan AI untuk menentukan harga produk dan memaksimalkan keuntungan.

“Pada kenyataannya, keuntungan yang dijanjikan tidak pernah terwujud, dan konsumen hanya memiliki rekening bank yang habis dan tagihan kartu kredit yang besar,” demikian bunyi keluhan tersebut.

Perusahaan e-commerce yang menjadi target Operation AI Comply tidak segera menanggapi permintaan komentar.

“Tindakan penegakan FTC memperjelas bahwa tidak ada pengecualian AI dari undang-undang yang berlaku,” kata Ketua FTC Lina Khan dalam siaran persnya.