Kos dan kemampanan AI generatif

AI adalah intensif sumber untuk mana-mana platform, termasuk awan awam. Kebanyakan teknologi kecerdasan buatan memerlukan sejumlah besar pengiraan inferens, yang secara kolektif memerlukan pemproses, rangkaian dan keperluan storan yang lebih tinggi, dan juga akan mengakibatkan bil elektrik yang lebih tinggi, kos infrastruktur dan jejak karbon.

Kebangkitan sistem kecerdasan buatan generatif, mengambil ChatGPT sebagai contoh, telah membawa isu di atas menjadi fokus semula. Memandangkan penggunaan teknologi ini secara meluas, dan kemungkinan penggunaannya secara besar-besaran oleh syarikat, kerajaan dan orang awam, kita dapat melihat keluk pertumbuhan penggunaan elektrik semakin membimbangkan.

Teknologi kecerdasan buatan telah wujud sejak tahun 1970-an. Memandangkan kerja sistem kecerdasan buatan yang matang memerlukan sejumlah besar sumber, ia tidak mempunyai banyak kesan komersial pada mulanya. Saya masih ingat bahawa sistem kecerdasan buatan yang saya reka semasa saya berumur 20-an memerlukan lebih daripada $40 juta dalam perkakasan, perisian dan ruang pusat data untuk menjalankannya. Makluman spoiler: Projek itu dan banyak projek AI lain tidak pernah keluar. Tidak berdaya maju sebagai kes perniagaan.

Pengkomputeran awan mengubah segala-galanya. Perkara yang dahulunya di luar jangkauan kini cukup kos efektif dengan awan awam. Sebenarnya, seperti yang anda duga, peningkatan awan secara kasarnya bertepatan dengan peningkatan kecerdasan buatan sejak 10 hingga 15 tahun yang lalu. Apa yang saya cuba katakan ialah mereka kini terintegrasi rapat.

Kemampanan dan Kos Sumber Awan

Anda benar-benar tidak perlu melakukan banyak penyelidikan untuk meramalkan perkara yang akan berlaku di sini. Akan terdapat lonjakan permintaan untuk perkhidmatan kecerdasan buatan, seperti sistem AI generatif yang kini menarik perhatian, serta sistem pembelajaran mesin dan kecerdasan buatan yang lain. Lonjakan ini akan diterajui oleh perniagaan yang mencari kelebihan inovatif, seperti rantaian bekalan pintar, dan juga beribu-ribu pelajar kolej yang berharap untuk mempunyai sistem AI generatif untuk menulis kertas penggal mereka.

Lebih banyak permintaan untuk kecerdasan buatan bermakna lebih banyak permintaan untuk sumber yang digunakan oleh sistem kecerdasan buatan ini, seperti awan awam dan perkhidmatan yang mereka sediakan. Permintaan ini mungkin dapat dipenuhi melalui beberapa pusat data yang menempatkan pelayan dan peralatan rangkaian yang haus kuasa.

Penyedia awan awam, seperti mana-mana penyedia sumber utiliti lain, akan menaikkan harga apabila permintaan meningkat, sama seperti kita melihat kenaikan bermusim dalam bil elektrik isi rumah (juga berdasarkan permintaan). Oleh itu, kami sering mengurangkan penggunaan, contohnya, menukar penghawa dingin kepada 24 darjah dan bukannya 20 darjah pada musim panas.

Walau bagaimanapun, kos pengkomputeran awan yang lebih tinggi mungkin tidak mempunyai kesan yang sama pada perniagaan. Perusahaan mungkin mendapati bahawa sistem kecerdasan buatan ini memacu proses perniagaan utama tertentu dan tidak boleh diketepikan. Dalam kebanyakan kes, mereka mungkin cuba menjimatkan wang dalam perniagaan, mungkin dengan mengurangkan jumlah pekerja untuk mengimbangi kos sistem AI. Bukan rahsia lagi bahawa sistem AI generatif akan menggantikan ramai pekerja maklumat tidak lama lagi.

Apa yang boleh dilakukan?

Apakah yang boleh kita lakukan jika permintaan sumber untuk menjalankan sistem AI akan mengakibatkan kos pengkomputeran dan pengeluaran karbon yang lebih tinggi? Jawapannya mungkin terletak pada mencari cara yang lebih cekap untuk AI menggunakan sumber seperti pemprosesan, rangkaian dan penyimpanan.

Sebagai contoh, saluran paip pensampelan boleh mempercepatkan pembelajaran mendalam dengan mengurangkan jumlah data yang diproses. Penyelidikan daripada MIT dan IBM menunjukkan bahawa anda boleh menggunakan pendekatan ini untuk mengurangkan sumber yang diperlukan untuk menjalankan rangkaian saraf pada set data yang besar. Walau bagaimanapun, ia juga mengehadkan ketepatan, yang mungkin boleh diterima untuk sesetengah kes penggunaan perniagaan, tetapi bukan semua.

Satu lagi pendekatan yang telah digunakan dalam bidang teknologi lain ialah pengkomputeran dalam memori. Seni bina ini boleh mempercepatkan pemprosesan AI dengan tidak memindahkan data masuk dan keluar dari memori. Sebaliknya, pengiraan AI berjalan terus dalam modul memori, yang mempercepatkan perkara dengan ketara.

Kaedah lain juga sedang dibangunkan. Contohnya, menukar pemproses fizikal, menggunakan pemproses bersama untuk pengiraan kecerdasan buatan untuk meningkatkan kelajuan pengkomputeran, atau menggunakan model pengkomputeran generasi seterusnya seperti kuantum. Anda boleh mengharapkan banyak pengumuman teknikal daripada vendor awan awam yang besar tentang cara menyelesaikan banyak masalah ini.

Apakah yang perlu anda lakukan?

Nasihat saya sememangnya jangan mengelak AI untuk mendapatkan bil pengkomputeran awan yang lebih rendah atau menyelamatkan planet ini. Kecerdasan Buatan ialah kaedah pengkomputeran asas yang boleh dimanfaatkan oleh kebanyakan perniagaan untuk mendapatkan nilai yang ketara.

Saya mengesyorkan agar anda memasuki projek pembangunan sistem AI yang didayakan AI atau bersih baharu dengan pemahaman yang jelas tentang kos dan kesan terhadap kemampanan, yang berkaitan secara langsung. Anda perlu membuat pilihan kos/faedah, dan itu benar-benar kembali kepada nilai kos dan risiko yang boleh anda bawa kepada perniagaan. Lagipun, sebenarnya tiada yang baru.

Saya percaya bahawa kebanyakan masalah akan diselesaikan dengan cara yang inovatif, sama ada ingatan atau pengkomputeran kuantum atau penyelesaian yang belum kita lihat. Kedua-dua penyedia teknologi AI dan penyedia pengkomputeran awan berminat untuk menjadikan AI lebih kos efektif dan hijau. Ini berita baik.

Sumber: www.cio.com

Atas ialah kandungan terperinci Kos dan kemampanan AI generatif. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!