Apakah konsumsi energi AI yang sangat besar merupakan masalah yang dapat dipecahkan?

Model bahasa besar, suatu bentuk kecerdasan buatan yang telah digunakan oleh banyak bank untuk melakukan hal-hal seperti draf email atau mendeteksi penipuanadalah orang yang terkenal rakus energiMenurut Asosiasi Ilmuwan Datapenyempurnaan OpenAI GPT-3 diperkirakan menghabiskan 1.287 megawatt jam listrik, yang setara dengan jumlah energi yang dikonsumsi rumah tangga Amerika selama 120 tahun. Rata-rata, permintaan ChatGPT membutuhkan listrik hampir 10 kali lebih banyak untuk diproses dibandingkan pencarian Google, Peneliti Goldman Sachs mengatakan.

“Model bahasa besar saat ini tidak akan pernah ramah lingkungan,” kata Seth Dobrin, pendiri firma penasihat Qantm AI dan kepala AI global pertama IBM, dalam podcast American Banker yang akan ditayangkan langsung pada 10 September. Selain daya yang sangat besar yang dibutuhkan untuk melatih dan menjalankan model bahasa besar, popularitasnya memaksa pembuatan chip khusus, seperti unit prosesor grafis, yang tidak dapat didaur ulang, katanya.

“Jika kita menyingkirkannya, apakah itu ramah lingkungan? Apa yang kita lakukan dengan itu? Itu berkontribusi pada kurangnya keberlanjutan sistem AI ini,” kata Dobrin. Perlu ada cara untuk mendaur ulang sebagian perangkat keras ini, katanya.

Pakar lain sepakat bahwa sifat model bahasa besar yang boros energi adalah masalah yang terus berkembang dan perlu ditangani, tetapi mereka melihat harapan dalam upaya yang dilakukan perusahaan teknologi dan bank untuk mengurangi dampak emisi karbon mereka.

“Model bahasa yang besar memang sangat haus daya, dan ini seharusnya menjadi perhatian yang jelas terkait dampaknya terhadap lingkungan,” kata Javier Rodriguez Soler, kepala global keberlanjutan dan perbankan korporat dan investasi di BBVA.

Namun, ia juga menunjukkan bahwa beberapa penyedia, termasuk OpenAI, memproduksi versi model mereka yang tidak terlalu boros energi. GPT-4o OpenAI dilaporkan menyamai kinerja GPT-4 dengan arsitektur yang lebih efisien, sehingga menghasilkan permintaan energi yang lebih rendah, seperti yang ditunjukkan oleh biaya operasional yang lebih rendah, kata Soler.

“Kami telah melihat tren serupa pada penyedia LLM lainnya dengan biaya — yang merupakan proksi yang baik dari konsumsi energi — menurun hingga tiga atau empat kali lipat hanya dalam beberapa bulan,” katanya.

Nvidia, Google, Meta, dan bank yang menggunakan AI canggih semuanya mengambil langkah untuk mengurangi konsumsi energi proyek AI mereka. Apakah perusahaan-perusahaan ini melakukan upaya yang cukup untuk menjadikan teknologi ini “hijau” masih menjadi pertanyaan terbuka.

Perusahaan teknologi berusaha membuat LLM lebih ramah lingkungan

Penyedia model bahasa besar OpenAI, Anthropic dan Meta semuanya mengatakan mereka mencoba mengurangi konsumsi energi model mereka — dengan mengurangi jumlah parameter yang mereka gunakan dan jumlah data yang mereka konsumsi, dan dengan membuat model mereka bekerja lebih efisien.

Soler berhipotesis bahwa pengurangan semacam ini dapat terus berlanjut hampir tanpa batas.

“Pertimbangkan bahwa otak manusia, yang mungkin lebih kuat daripada LLM paling maju, beroperasi hanya dengan daya 20 watt,” katanya.

Perusahaan teknologi besar seperti Microsoft, Google, dan Amazon yang digunakan banyak bank untuk menjadi tuan rumah bagi model bahasa besar mereka —– terkadang disebut hyperscaler — semuanya menyampaikan upaya yang sadar lingkungan.

Microsoft sedang mengembangkan cara untuk mengukur penggunaan energi dan dampak karbon dari AI sambil berupaya membuat sistem besar lebih efisien, baik dalam pelatihan maupun aplikasi, kata seorang juru bicara perusahaan.

“Kami akan terus memantau emisi kami, mempercepat kemajuan sambil meningkatkan penggunaan energi bersih untuk memberi daya pada pusat data, membeli energi terbarukan, dan upaya lain untuk memenuhi tujuan keberlanjutan kami yaitu menjadi negatif karbon, positif air, dan nol limbah pada tahun 2030,” kata juru bicara Microsoft.

Meta baru-baru ini bermitra dengan perusahaan rintisan energi panas bumi Sage Geosystems. Kedua perusahaan berencana untuk mulai menghasilkan hingga 150 megawatt daya tanpa karbon, yang cukup untuk mendukung pusat data yang besar. Sage mengatakan bahwa mereka memanen energi dari bawah tanah menggunakan peralatan pengeboran minyak yang telah digunakan kembali.

Google tengah menggarap proyek geothermal di Nevada bersama Fervo Energy. Kedua perusahaan dan NV Energy berharap dapat menghasilkan listrik sebesar 115 megawatt untuk Google.

Nvidia, penyedia unit prosesor grafis terbesar yang digunakan untuk menjalankan model bahasa besar, mengatakan bahwa mereka tengah berupaya mengurangi konsumsi energi pada chip-nya. Perusahaan tersebut menolak permintaan wawancara.

Apa yang dilakukan bank untuk meminimalkan konsumsi energi

BBVA sedang dalam tahap awal mengeksplorasi model bahasa berskala besar dan mempelajari cara menerapkannya dalam skala besar. Meskipun konsumsi energi LLM saat ini terbatas, bank mengantisipasi bahwa hal ini akan berubah dalam waktu dekat dan mempertimbangkan strategi untuk mengurangi dampaknya.

Salah satu strateginya adalah mematuhi prinsip minimalisasi data saat membangun model AI.

“Dengan hanya menggunakan data yang benar-benar diperlukan, kami menciptakan model yang lebih kecil dan lebih efisien yang membutuhkan daya komputasi yang lebih sedikit dan akibatnya lebih sedikit energi,” kata Soler. Pendekatan ini sejalan dengan prinsip-prinsip Peraturan Perlindungan Data Umum Uni Eropa dan mewujudkan praktik terbaik pengembangan AI bahwa model harus serumit yang diperlukan untuk mencapai tujuannya, kata Soler.

“Dalam kasus di mana minimisasi data tidak memungkinkan, seperti saat menerapkan model bahasa yang besar, kami berfokus pada pemilihan model terkecil yang efektif untuk meminimalkan penggunaan energi,” kata Soler. “Untuk beberapa aplikasi, kami menyaksikan pengurangan energi dua kali lipat — hampir 100 kali lipat — tanpa mengorbankan kinerja.”

BBVA juga memindahkan semua operasi AI-nya, sehingga operasi tersebut dilakukan melalui hyperscaler yang berkomitmen untuk beroperasi pada sumber energi terbarukan.

Bank akan terus mendorong penyedia LLM yang bekerja sama dengannya untuk mengeksplorasi kemajuan dalam AI dan efisiensi perangkat keras, kata Soler.

Bank-bank yang beroperasi di Eropa harus lebih memikirkan isu-isu ini dibandingkan perusahaan-perusahaan yang hanya beroperasi di AS, karena adanya regulasi seperti Peraturan Pengungkapan Keuangan Berkelanjutan Uni Eropa dan nasabah yang lebih fokus pada isu-isu iklim, kata Harry Stahl, direktur senior, strategi perusahaan dan pimpinan strategi ESG di FIS. Ia memberikan komentar untuk artikel ini sebagai anggota International Securities Association for Institutional Trade Communication, sebuah organisasi industri yang terdiri dari lembaga keuangan dan penyedia teknologi yang berupaya meningkatkan efektivitas operasional industri keuangan.

Bank-bank AS terutama mengandalkan mitra cloud dan AI generatif mereka untuk membantu mereka menjaga konsumsi energi model bahasa besar mereka serendah mungkin.

Beberapa bank mulai tertarik pada model bahasa kecil, yang memiliki lebih sedikit parameter dan oleh karena itu memiliki kapasitas terbatas untuk memproses dan menghasilkan teks dibandingkan dengan model bahasa besar.

“Untuk banyak tugas yang ingin dilakukan bank dengan teknologi ini, mereka tidak selalu memerlukan basis pengetahuan dan masukan lengkap dari model bahasa besar yang dapat diakses publik,” kata Gilles Ubaghs, penasihat strategis di Datos Insights. “Model yang lebih kecil dan lebih terspesialisasi pada gilirannya akan menghasilkan efisiensi energi yang lebih rendah.”

Namun, beberapa bank AS mengabaikan dampak iklim akibat pembakaran listrik dalam jumlah besar.

“Terlepas dari semua pesan ESG dan pernyataan publik tentang hal-hal seperti perubahan iklim, sebagian besar bank belum mengambil langkah besar seperti divestasi dari industri bahan bakar fosil,” kata Ubaghs. “Mereka akan menggembar-gemborkan program daur ulang di kantor, tetapi mengabaikan konsumsi energi dari AI generatif.”

Tetapi bank-bank AS mulai merasakan tekanan regulasi dan hukum untuk menjadi lebih sadar karbon.

Bank yang menjalankan bisnis di California dan memiliki pendapatan tahunan lebih dari $1 miliar tunduk pada Undang-Undang Akuntabilitas Data Perusahaan Iklim negara bagian, yang akan mengharuskan mereka, mulai tahun 2026, untuk mengungkapkan kepada publik emisi gas rumah kaca tahunan mereka dan membayar biaya untuk emisi langsung dan tidak langsung mereka.

Peraturan yang ditetapkan oleh Securities and Exchange Commission tahun ini akan mengharuskan beberapa perusahaan untuk mengungkapkan emisi karbon tertentu. Peraturan ini ditunda awal tahun ini karena adanya gugatan pengadilan.

“Pengertian yang lebih luas dari mereka yang melihatnya dari kantor atau peran keberlanjutan adalah, kita harus memikirkan hal ini,” kata Stahl. “Pertanyaannya adalah, seberapa cepat kita harus bergerak?”

Jawabannya adalah: Tergantung pada model AI yang Anda gunakan dan siapa penyedianya.

Bank harus memikirkan dari mana penyedia teknologi mereka mendapatkan daya, kata Stahl, dan di mana model bahasa besar mereka berjalan secara fisik — di pusat data mereka sendiri atau di pusat data yang dihosting oleh pihak ketiga. Ini menjadi bagian dari manajemen risiko dan uji tuntas pihak ketiga.

“Jika ini ditujukan kepada penyedia yang secara agresif bergerak untuk mengurangi jejak karbon mereka dan bergerak menuju nol emisi, Anda sebenarnya berpotensi untuk beralih lebih jauh ke AI dan mengurangi dampak karbon Anda,” katanya. “Namun Anda perlu melihat datanya. Bagaimana profil terkini dan profil target penyedia Anda?”

Perusahaan besar cenderung melisensikan versi perusahaan dari model bahasa yang besar, untuk menjaga keamanan data mereka. Namun, saat mereka memikirkan manajemen risiko untuk penyedia teknologi, mereka juga perlu memikirkan profil konsumsi energinya.

Bank juga dapat mempertimbangkan apakah mereka benar-benar membutuhkan AI untuk beberapa proyek, kata Stahl.

“Ada organisasi seperti Green Software Foundation yang berpikir tentang, bagaimana Anda menulis perangkat lunak yang dirancang untuk mengonsumsi lebih sedikit daya?” kata Stahl. “Dan ada cara untuk mengatur agar lebih hemat energi dalam cara Anda membangun dan menjalankan perangkat lunak, yang tidak akan mengubah ekonomi secara keseluruhan secara besar-besaran, tetapi patut dipertimbangkan.”

Beberapa pekerjaan sebenarnya tidak memerlukan AI sama sekali; teknologi lain, seperti otomatisasi proses robotika, mungkin berfungsi sama baiknya atau lebih baik.

“Ada beberapa tempat di mana AI bersifat ekstra,” kata Stahl. “Itu seperti lapisan gula pada sereal, Anda tidak membutuhkannya.”