AI yang lebih rendah dari Deepseek: apa yang perlu diketahui bankir

Investor menjadi liar minggu ini di Deepseek, sebuah startup yang berbasis di Hangzhou, Cina, yang memiliki asisten AI yang terlihat dan bertindak seperti chatgpt Openai tetapi biayanya jauh lebih murah.

Rilis versi terbaru dari model R1 Deepseek memicu aksi jual yang tajam dalam saham terkait AI, terutama Microsoft dan Nvidia. Deepseek melampaui chatgpt untuk menjadi aplikasi gratis paling populer di Apple App Store.

Bank yang mempertimbangkan untuk menggunakan Deepseek perlu duduk yang satu ini, setidaknya untuk saat ini, di tengah keamanan, privasi data dan masalah propaganda Cina.

Pada hari Selasa, Deepseek melaporkan bahwa “serangan jahat berskala besar pada layanan Deepseek” mencegahnya mendaftarkan pengguna baru. Menurut Pos Pagi China SelatanDeepseek telah ditargetkan sepanjang bulan dengan serangan penolakan layanan yang didistribusikan, jenis insiden di mana aktor jahat mengirim begitu banyak lalu lintas ke server yang tersedak dan tidak dapat lagi melayani pengguna yang sah.

Privasi data dan keamanan data adalah tanda tanya besar untuk Deepseek. Menurut Berita peretasperusahaan meninggalkan database yang tidak terlindungi di internet, memperlihatkan lebih dari satu juta lini aliran log yang berisi riwayat obrolan, kunci rahasia, detail backend dan informasi sensitif lainnya. (Deepseek sejak itu mencolokkan lubang keamanan itu.) Dan penguji menemukan model R1 -nya menyemburkan propaganda pemerintah China.

“Risiko keamanan geopolitik dan potensial bekerja dengan Deepseek akan menjauhkan para bankir,” kata Alenka Grealish, analis utama di Celent.

Tetapi inovasi Deepseek, yang telah dipertanyakan oleh beberapa orang, dapat membantu menurunkan biaya dan konsumsi energi model AI generatif ke depan.

“Tidak jarang model dirilis dan Nasdaq jatuh 5%,” kata Krishnan Swamy, Kepala Data dan Petugas Analisis di Citizens Bank. “Saya pikir ini memberi tahu Anda apa artinya ini bagi lanskap AI, dan saya pikir ada positif dari sudut pandang pengguna, karena menurunkan penghalang biaya untuk masuk.”

Risikonya

Gilles Ubaghs, penasihat strategis, perbankan komersial dan pembayaran di Datos Insights, mengatakan ada banyak hal yang tidak diketahui di belakang pengembang Deepseek, “termasuk seberapa akurat laporan pelatihan mereka sebenarnya, serta pertanyaan yang lebih dalam tentang siapa mereka dan batasan apa mereka melakukannya mereka Apakah menyerap data perusahaan? “

“Bahkan jika bank memang ingin bekerja dengan Deepseek, risiko kepatuhan paling tidak jelas, dan paling buruk kemungkinan parah,” kata Ubaghs.

Swamy mengatakan sebelum model seperti Deepseek dapat menemukan rumah di bank seperti warga, itu harus melalui semua pemindaian keamanan yang dilalui perangkat lunak open source, termasuk tes privasi data dan keamanan.

“Kami memiliki pemindaian di sekitar kehadiran malware, kode mencurigakan, cek lisensi,” katanya. “Deepseek perlu melalui cek itu, tidak ada pertanyaan.”

Bank diharapkan untuk melihat jenis inovasi ini dan mencoba memahaminya, kata Swamy. Pada saat yang sama, bank harus mematuhi peraturan yang mengatur privasi dan keamanan data.

“Saya pikir privasi data dan masalah keamanan data meningkat ketika model di -host oleh Deepseek, Openai, Microsoft atau siapa pun itu,” katanya. “Saya pikir mereka berkurang secara signifikan ketika model-model ini dibawa ke dalam parameter lingkungan cloud kita atau lingkungan di-prem.”

Ini akan lebih mudah bagi bank besar daripada yang kecil, kata Swamy.

Sebagian besar bank tidak memiliki kerangka kerja validasi model untuk menguji model dengan benar seperti Deepseek, menurut Ryan Cox, kepala global kecerdasan buatan di Synechron.

“Ini adalah model non-deterministik,” kata Cox. “Anda memasukkan beberapa informasi dan Anda mengeluarkan beberapa informasi, tetapi secara efektif merupakan algoritma dengan probabilitas jawaban tertimbang, dan jawaban itu bisa benar, itu bisa saja salah.

“Itulah mengapa sangat penting untuk memiliki validasi model itu di tempat, karena dengan begitu Anda dapat melakukan hal -hal seperti pengujian, Anda dapat menjalankan pemeriksaan perangkat lunak normal Anda, Anda dapat mengatakan secara kualitatif, apakah jawaban yang saya dapatkan masuk akal?”

Cek semacam itu juga termasuk mencari pagar yang mencegah model menghasilkan jawaban yang keras, melecehkan, salah secara etis atau miring secara politis.

Penghalang yang lebih rendah untuk masuk

Gagasan kecerdasan buatan berbiaya lebih rendah sangat menarik bagi semua jenis perusahaan.

“Apa yang telah ditemukan perusahaan selama satu setengah tahun terakhir adalah bahwa sementara model komersial besar – Openai, Anthropic dan sebagainya – sangat, sangat kuat, mereka juga mahal,” kata Swamy Citizens. “Semua perusahaan ini melakukan investasi besar ke dalam model -model ini, dan harus ada cara mereka mengganti investasi itu.”

Untuk melawan tingginya biaya AI, beberapa perusahaan sudah mulai menggunakan model open-source seperti Llama, katanya. Yang lain telah beralih ke model yang lebih kecil dan menyempurnakannya untuk aplikasi tertentu. Model yang lebih kecil menggunakan lebih sedikit token dan mengkonsumsi sumber daya komputasi yang lebih sedikit, sehingga mereka akhirnya menjadi lebih ekonomis, kata Swamy.

Perusahaan seperti Deepseek mengubah seluruh lanskap AI, menurut Beerud Sheth, CEO Gupshup, penyedia agen AI percakapan yang mencantumkan Citi sebagai pelanggan.

“Ketika AI berkembang, terutama di ekosistem open-source, orang-orang menemukan teknik yang lebih baru, algoritma yang lebih baru, metode yang lebih baru untuk membuatnya lebih cepat, lebih baik dan lebih murah,” kata Sheth. “Itu sudah menjadi pencarian dari selamanya.” Dia mengutip arsitektur transformator Google keluar pada tahun 2017 sebagai contoh.

“Begitu teknik itu keluar, yah, coba tebak? Seluruh dunia tahu tentang hal itu, dan Openai dan beberapa insinyur lainnya termasuk di antara yang pertama yang menggunakan teknik itu,” kata Sheth. “Setelah itu, ada banyak perkembangan lain.”

Teknik para peneliti Deepseek muncul dengan biaya pelatihan model AI generatif yang lebih rendah keluar dalam domain publik untuk perusahaan lain untuk menyalin dan mendapatkan hasil yang sama, kata Sheth. Deepseek telah menerbitkan makalah penelitian tentang teknologinya, yang merupakan open source.

“Tidak ada yang pernah berkata, ‘Oh, saya tidak akan mengadopsi teknik karena itu berasal dari seseorang yang tidak saya percayai,’ karena suatu teknik adalah teknik, dan Anda hanya mengimplementasikannya kembali,” kata Sheth.

“Ini adalah pergeseran paradigma yang sangat signifikan sehingga tidak ada pertanyaan bahwa semua orang harus menguji, mengutak -atik, mengulanginya sekarang, secara umum,” katanya.