Apabila bercakap tentang infrastruktur AI, patutkah anda memilih tepi atau awan?

Pengkomputeran tepi telah menjadi topik hangat hari ini. Dipuji sebagai anjakan teknologi yang paling menarik dalam beberapa tahun kebelakangan ini, terdapat banyak perbincangan tentang kuasa transformatifnya!

Gembar-gembur itu sebahagian besarnya benar, dengan algoritma AI/ML yang semakin berkuasa mentakrifkan semula "kepintaran" dan ketersediaan peranti "tepi" yang lebih murah dan berkuasa. Tetapi jika anda berfikir tentang sejarah pengkomputeran tepi, ia lebih awal daripada minat baru-baru ini akan membawa kita untuk mempercayai.

Malah, pengkomputeran dan perisikan pada mulanya bermula di pinggir, apabila sambungan rangkaian jalur lebar tinggi hampir tidak wujud untuk kebanyakan aplikasi. Malah pada penghujung 1990-an, peralatan pengukuran kritikal yang digunakan dari jauh di kilang atau medan selalunya mempunyai kuasa pengkomputeran khusus untuk memproses data sensor masuk. Walau bagaimanapun, algoritma dalam peranti ini hanya asas dari segi "kepintaran": terutamanya pemprosesan isyarat atau penukaran data.

Pengkomputeran berasaskan awan mula mendapat daya tarikan pada akhir 2000-an apabila keupayaan rangkaian meningkat dan ketersambungan meningkat. Pada masa yang sama, algoritma kecerdasan buatan yang berkuasa mendapat daya tarikan sebagai cara untuk membuka kunci maklumat yang bermakna daripada sejumlah besar data berstruktur dan tidak berstruktur. Hanya dalam satu dekad, cloud AI telah menjadi pilihan utama untuk aplikasi AI.

Walau bagaimanapun, peralihan kepada awan juga membawa beberapa isu: kos muat naik dan muat turun data, kebolehpercayaan rangkaian dan keselamatan data, dsb. Pada masa yang sama, pertukaran pengkomputeran tepi antara kuasa pemprosesan dan kos atau ruang lantai semakin berkurangan dengan peningkatan peranti tepi yang mampu milik tetapi berkuasa. Nampaknya kami kini kembali mempertimbangkan "pengkomputeran tepi" sebagai pilihan yang berdaya maju dan menarik untuk membina aplikasi pintar.

Memandangkan perdebatan mengenai mana yang lebih baik, AI tepi atau AI awan, sesiapa yang biasa dengan kedua-dua rangka kerja berkemungkinan besar akan menjawab "Ia bergantung"!". Sebabnya ialah infrastruktur tepi dan awan tidak bersaing, tetapi rangka kerja pelengkap.

Kedua-duanya telah mengalami pembangunan dan penambahbaikan yang luar biasa sejak beberapa tahun lalu, terutamanya sebagai asas untuk pembangunan dan penggunaan kecerdasan buatan. Seperti mana-mana pilihan teknologi, pilihan benar-benar bergantung kepada aplikasi khusus: matlamat, pemacu nilai, ekonomi, dan sebarang kekangan pada penggunaan kuasa, saiz dan ketersambungan. Oleh itu, adalah penting untuk memahami kebaikan dan keburukan cloud dan edge AI sebelum cuba menyediakan infrastruktur yang betul.

Apabila mencari fleksibiliti, skalabiliti dan kemudahan penggunaan, AI berasaskan awan ialah pilihan yang menarik. Hari ini, kebanyakan penyedia perkhidmatan awan menawarkan rangka kerja yang berkuasa untuk latihan dan penggunaan model AI dan menawarkan pakej bayar sambil pergi dengan sedikit komitmen atau pelaburan awal. Awan menawarkan pilihan pengkomputeran dan storan yang hampir tidak terhad, menjadikannya sangat sesuai untuk model AI yang besar.

Tetapi untuk aplikasi masa nyata yang memerlukan penilaian berterusan ke atas data penderia atau imej, ini boleh menjadi pilihan yang sukar digunakan, kerana ia mesti menghantar data ke sana ke mari, yang memerlukan kos yang besar. Pemindahan data ini juga menjadikan awan sebahagian besarnya tidak sesuai untuk aplikasi kependaman rendah yang memerlukan kawalan gelung tertutup atau tindakan segera.

Sebaliknya, edge AI ialah pilihan yang munasabah untuk analisis data masa nyata untuk penggera automatik atau kawalan gelung tertutup. Walaupun infrastruktur tepi memerlukan pelaburan awal dalam perkakasan tepi, kos operasi jauh lebih rendah berbanding awan.

Hari ini, terdapat pelbagai pilihan perkakasan AI kelebihan tersedia, termasuk NPU (Unit Pemprosesan Neural), TPU (Unit Pemprosesan Tensor) dan SOC (Sistem pada Cip) dengan pemecut AI khusus dan SoM (sistem pada modul). Perkakasan kos rendah dan berkuasa rendah untuk kecerdasan buatan adalah bidang penyelidikan yang aktif dan berpotensi untuk menyediakan pilihan yang lebih baik. Sebaliknya, aplikasi pengguna berasaskan AI mesti berurusan dengan rangkaian peranti tepi yang agak pelbagai (telefon, tablet, PC, dll.), menjadikan penggunaan kelebihan sebagai prospek yang berpotensi menakutkan.

Akibatnya, infrastruktur tepi mungkin tidak kondusif untuk prototaip pantas dan tidak mudah untuk skala. Walaupun konsep pembelajaran bersekutu, latihan teragih model AI membolehkan latihan dan penggunaan di pinggir, awan kekal sebagai pilihan logik untuk melatih model besar yang memerlukan kuasa pengkomputeran yang mencukupi.

Tetapi penyelesaiannya tidak semestinya satu/atau pilihan. Apabila aplikasi beralih kepada lebih banyak seni bina berasaskan perkhidmatan mikro, ia boleh dipecahkan kepada fungsi yang lebih kecil atau perkhidmatan mikro dengan rangka kerja penggunaan khusus mereka sendiri. Jadi daripada perlu memilih antara awan dan tepi, tumpuan boleh diberikan pada penggunaan kedua-duanya secara optimum untuk aplikasi tertentu.

Sebagai contoh, aplikasi mungkin bermula sebagai prototaip pantas pada awan. Semasa ia berkembang, fungsi yang memerlukan kependaman rendah dan membuat keputusan masa nyata boleh dialihkan ke tepi, manakala fungsi yang memerlukan skala dan fleksibiliti boleh kekal dalam awan. Latihan model atau latihan semula boleh diuruskan secara berpusat di awan, manakala beberapa pembelajaran bersekutu di tepi boleh meningkatkan ketepatan secara tempatan. Begitu juga, data sensitif boleh diproses di tepi dan lebih banyak data umum boleh dialihkan ke awan.

Organisasi, pembangun dan pengamal adalah bijak untuk tidak menganggap awan dan tepi sebagai alternatif yang berbeza, sebaliknya sebagai kontinum dari tepi ke awan, dengan banyak pilihan infrastruktur yang berbeza di antaranya. Ini termasuk pelbagai jenis tepi – tepi operasi, pinggir rangkaian, titik akhir mudah alih, dsb., serta pelbagai jenis pemprosesan teragih pada rangkaian – awan peribadi, awan awam, awan kecil, pengkomputeran kabus, dsb.

Walaupun kerumitan boleh menjadi satu cabaran, mencari gabungan teknologi yang betul mula menawarkan organisasi peluang unik untuk memaksimumkan nilai AI sambil meminimumkan kos dan risiko.

Atas ialah kandungan terperinci Apabila bercakap tentang infrastruktur AI, patutkah anda memilih tepi atau awan?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!