Apakah Edge AI?

Edge AI (Kecerdasan Buatan Tepi) adalah gabungan kecerdasan buatan (AI) dan pengkomputeran tepi. Daripada menghantar data ke awan untuk pemprosesan, Edge AI membolehkan peranti pintar seperti telefon pintar, kamera, robot, atau mesin IoT menganalisis dan membuat keputusan terus pada peranti tersebut. Pendekatan ini membantu mengurangkan kelewatan, menjimatkan jalur lebar, meningkatkan keselamatan, dan menyediakan respons masa nyata.

Edge AI (kadang-kadang dipanggil "AI di tepi") bermaksud menjalankan model kecerdasan buatan dan pembelajaran mesin pada peranti tempatan (sensor, kamera, telefon pintar, pintu masuk industri, dan lain-lain) dan bukannya di pusat data jauh. Dengan kata lain, "tepi" rangkaian – di mana data dijana – yang mengendalikan pengkomputeran. Ini membolehkan peranti menganalisis data dengan segera semasa ia dikumpul, tanpa perlu sentiasa menghantar data mentah ke awan.

Edge AI membolehkan pemprosesan masa nyata terus pada peranti tanpa bergantung pada pelayan pusat. Contohnya, kamera dengan Edge AI boleh mengesan dan mengklasifikasikan objek secara langsung, memberikan maklum balas segera. Dengan memproses data secara tempatan, Edge AI boleh berfungsi walaupun dengan sambungan internet yang tidak konsisten atau tiada langsung.

— IBM Research
Pertumbuhan Pasaran: Perbelanjaan global untuk pengkomputeran tepi mencapai kira-kira $232 bilion pada 2024 (naik 15% dari 2023), didorong terutamanya oleh pertumbuhan IoT berkuasa AI.

Secara ringkas, Edge AI membawa pengkomputeran lebih dekat kepada sumber data – dengan meletakkan kecerdasan pada peranti atau nod berdekatan, yang mempercepatkan tindak balas dan mengurangkan keperluan untuk menghantar semuanya ke awan.

Edge AI vs Cloud AI: Perbezaan Utama

Berbeza dengan AI berasaskan awan tradisional (yang menghantar semua data ke pelayan berpusat), Edge AI mengagihkan pengkomputeran di antara perkakasan di tapak. Rajah di bawah menggambarkan model pengkomputeran tepi yang mudah: peranti akhir (lapisan bawah) menghantar data ke pelayan tepi atau pintu masuk (lapisan tengah) dan bukannya hanya ke awan jauh (lapisan atas).

Edge AI vs Cloud AI
Perbandingan seni bina Edge AI dan Cloud AI

Dalam susunan ini, inferens AI boleh berlaku pada peranti atau nod tepi tempatan, mengurangkan kelewatan komunikasi dengan ketara.

Cloud AI

Pendekatan Tradisional

  • Data dihantar ke pelayan jauh
  • Kelewatan tinggi akibat kelewatan rangkaian
  • Memerlukan sambungan berterusan
  • Sumber pengkomputeran tanpa had
  • Isu privasi dengan penghantaran data
Edge AI

Pendekatan Moden

  • Pemprosesan tempatan pada peranti
  • Masa tindak balas dalam milisaat
  • Boleh berfungsi tanpa sambungan internet bila perlu
  • Sumber terhad tetapi cekap
  • Perlindungan privasi yang dipertingkatkan

Kelewatan

Edge AI meminimumkan kelewatan. Kerana pemprosesan berlaku secara tempatan, keputusan boleh dibuat dalam milisaat.

  • Amat penting untuk tugasan sensitif masa
  • Mengelakkan kemalangan kereta
  • Mengawal robot secara masa nyata

Jalur Lebar

Edge AI mengurangkan beban rangkaian dengan menganalisis atau menapis data di tapak.

  • Lebih sedikit maklumat dihantar ke atas
  • Lebih cekap dan menjimatkan kos
  • Kurangkan kesesakan rangkaian

Privasi/Keselamatan

Data sensitif boleh diproses dan disimpan pada peranti, tidak pernah dihantar ke awan.

  • Suara, imej, bacaan kesihatan kekal tempatan
  • Kurangkan pendedahan kepada pelanggaran pihak ketiga
  • Pengenalan wajah tanpa muat naik gambar

Sumber Pengkomputeran

Peranti tepi mempunyai kuasa pemprosesan terhad tetapi menggunakan model yang dioptimumkan.

  • Model padat dan dikuantisasi
  • Latihan masih berlaku di awan
  • Bersaiz terhad tetapi cekap
Amalan terbaik: Edge dan cloud AI saling melengkapi. Pelayan awan mengendalikan latihan berat, pengarkiban dan analitik kumpulan besar, manakala Edge AI mengendalikan inferens masa nyata dan keputusan pantas dekat dengan data.

Manfaat Edge AI

Edge AI menawarkan beberapa kelebihan praktikal untuk pengguna dan organisasi:

Manfaat Edge AI
Manfaat utama pelaksanaan Edge AI

Respons Masa Nyata

Pemprosesan data secara tempatan membolehkan analisis segera. Pengguna mendapat maklum balas pantas tanpa menunggu perjalanan ke awan.
  • Pengesanan objek secara langsung
  • Sistem balasan suara
  • Amaran anomali
  • Aplikasi realiti terimbuh

Pengurangan Jalur Lebar dan Kos

Hanya keputusan ringkas atau kejadian luar biasa yang perlu dihantar melalui internet, mengurangkan kos pemindahan data dan penyimpanan awan.
  • Kamera keselamatan hanya memuat naik klip ancaman
  • Pengurangan penstriman berterusan
  • Perbelanjaan hosting awan lebih rendah

Privasi Dipertingkatkan

Maklumat peribadi atau sensitif tidak pernah keluar dari perkakasan tempatan apabila diproses di tepi.
  • Amat penting untuk penjagaan kesihatan dan kewangan
  • Data kekal dalam negara/fasiliti
  • Pematuhan dengan peraturan privasi

Kecekapan Tenaga dan Kos

Menjalankan model kecil pada cip berkuasa rendah sering menggunakan tenaga kurang daripada komunikasi pelayan awan.
  • Penggunaan tenaga lebih rendah
  • Pengurangan kos pelayan
  • Dioptimumkan untuk peranti mudah alih
Kebolehan Offline: Edge AI boleh terus berfungsi jika sambungan gagal. Peranti mengekalkan kecerdasan tempatan dan menyelaraskan kemudian, menjadikan sistem lebih tahan untuk kawasan terpencil dan aplikasi kritikal misi.

Edge AI membawa keupayaan pengkomputeran berprestasi tinggi ke tepi, membolehkan analisis masa nyata dan kecekapan yang dipertingkatkan.

— Laporan Bersama Red Hat & IBM

Cabaran Edge AI

Walaupun mempunyai kelebihan, Edge AI juga menghadapi halangan yang ketara:

Cabaran Edge AI
Cabaran utama dalam pelaksanaan Edge AI

Had Perkakasan

Peranti tepi biasanya kecil dan terhad sumber. Mereka mungkin hanya mempunyai CPU sederhana atau NPU berkuasa rendah khusus, dan memori terhad.

  • Mewajibkan penggunaan pemampatan dan pemangkasan model
  • Teknik TinyML diperlukan untuk mikropengawal
  • Model kompleks tidak boleh dijalankan sepenuhnya
  • Beberapa ketepatan mungkin dikorbankan

Latihan dan Kemas Kini Model

Latihan model AI canggih biasanya masih berlaku di awan, di mana data besar dan kuasa pengkomputeran tersedia.

  • Model mesti dioptimumkan dan dikerahkan ke setiap peranti
  • Menjaga ribuan peranti sentiasa dikemas kini adalah rumit
  • Penyelarasan firmware menambah beban
  • Pengawalan versi merentas sistem teragih

Tarikan Data dan Heterogeniti

Persekitaran tepi adalah pelbagai. Lokasi berbeza mungkin mengumpul jenis data berbeza, dan polisi mungkin berbeza mengikut wilayah.

IBM menyatakan: Pelaksanaan meluas edge AI menimbulkan isu "tarikan data, heterogeniti, skala dan kekangan sumber".
  • Data cenderung kekal tempatan
  • Sukar untuk mendapatkan pandangan global
  • Peranti datang dalam pelbagai bentuk dan saiz
  • Cabaran integrasi dan standardisasi

Keselamatan di Tepi

Walaupun Edge AI boleh meningkatkan privasi, ia juga memperkenalkan kebimbangan keselamatan baru. Setiap peranti atau nod adalah sasaran berpotensi untuk penggodam.

  • Model mesti tahan gangguan
  • Keperluan keselamatan firmware
  • Permukaan serangan teragih
  • Perlindungan kukuh diperlukan

Kebergantungan Sambungan

Walaupun inferens boleh berlaku secara tempatan, sistem tepi masih sering bergantung pada sambungan awan untuk tugasan berat.

  • Latihan semula model memerlukan akses awan
  • Analisis data berskala besar memerlukan sambungan
  • Penggabungan keputusan teragih
  • Sambungan terhad boleh menyekat fungsi
Penyelesaian Hibrid: Kebanyakan penyelesaian menggunakan model hibrid di mana peranti tepi mengendalikan inferens, manakala awan mengendalikan latihan, pengurusan model dan analitik data besar. Keseimbangan ini membantu mengatasi kekangan sumber dan membolehkan edge AI berkembang.

Kes Penggunaan Edge AI

Edge AI digunakan dalam pelbagai industri dengan impak dunia sebenar:

Kes Penggunaan Edge AI
Aplikasi dunia sebenar Edge AI merentas industri

Kenderaan Autonomi

Kereta pandu sendiri menggunakan Edge AI di atas papan untuk memproses data kamera dan radar dengan segera bagi navigasi dan pengelakan halangan.

  • Tidak mampu menanggung kelewatan menghantar video ke pelayan
  • Pengesanan objek berlaku secara tempatan
  • Pengenalan pejalan kaki secara masa nyata
  • Penjejakan lorong tanpa sambungan
Keperluan kritikal: Masa tindak balas dalam milisaat adalah penting untuk keputusan pemanduan yang kritikal keselamatan.

Pembuatan dan Industri 4.0

Kilangan menggunakan kamera pintar dan sensor pada barisan pengeluaran untuk mengesan kecacatan atau anomali secara masa nyata.

Kawalan Kualiti

Kamera Edge AI mengesan produk cacat pada tali sawat dan mencetuskan tindakan segera.

Penyelenggaraan Ramalan

Mesin industri menggunakan AI di tapak untuk meramalkan kegagalan peralatan sebelum kerosakan berlaku.

Penjagaan Kesihatan dan Respons Kecemasan

Peranti perubatan mudah alih dan ambulans kini menggunakan Edge AI untuk menganalisis data pesakit di tempat.

  • Ultrasound dalam ambulans dengan analisis AI
  • Monitor tanda vital mengesan bacaan luar biasa
  • Memberi amaran kepada paramedik tentang kecederaan dalaman
  • Pemantauan pesakit ICU dengan amaran segera
Impak menyelamatkan nyawa: Edge AI membolehkan keputusan perubatan segera tanpa menunggu analisis pelayan pusat.

Bandar Pintar

Sistem bandar menggunakan edge AI untuk pengurusan trafik, pengawasan, dan pemantauan alam sekitar.

Pengurusan Trafik

Lampu trafik pintar menyesuaikan masa menggunakan analisis kamera AI tempatan, mengurangkan kesesakan secara masa nyata.

Pengawasan

Kamera jalan mengesan kejadian (kemalangan, kebakaran) dan memberi amaran kepada pihak berkuasa dengan segera.

Pemantauan Alam Sekitar

Pemprosesan tempatan mengelakkan beban rangkaian sambil membolehkan tindak balas pantas di seluruh bandar.

Runcit dan IoT Pengguna

Edge AI meningkatkan pengalaman pelanggan dan kemudahan dalam aplikasi runcit dan pengguna.

1

Analitik Dalam Kedai

Kamera pintar dan sensor rak mengesan tingkah laku pembeli dan tahap inventori dengan segera.

2

Peranti Mudah Alih

Telefon pintar menjalankan pengecaman suara dan wajah pada peranti tanpa akses awan untuk membuka kunci dan pengecaman isyarat.

3

Penjejakan Kecergasan

Peranti boleh pakai menganalisis data kesihatan (kadar jantung, langkah) secara tempatan untuk memberikan maklum balas masa nyata.

Aplikasi Berkembang: Penggunaan lain yang semakin meningkat termasuk pertanian tepat (drone memantau kesihatan tanah dan tanaman) dan sistem keselamatan (pengenalan wajah pada peranti untuk kunci). Mana-mana senario yang mendapat manfaat daripada analisis segera dan tempatan adalah calon kuat untuk Edge AI.

Teknologi dan Trend Pemangkin

Pertumbuhan Edge AI didorong oleh kemajuan dalam perkakasan dan perisian:

Teknologi dan Trend Pemangkin
Teknologi utama yang memacu kemajuan Edge AI

Perkakasan Khusus

Pengeluar membina cip yang direka khas untuk inferens tepi.

  • Pemecut neural berkuasa rendah (NPU)
  • Google Coral Edge TPU
  • NVIDIA Jetson Nano
  • Arduino dan Raspberry Pi dengan tambahan AI
Kemajuan Industri: Pemproses ultra-rendah kuasa dan algoritma "edge-native" mengatasi had perkakasan peranti.

TinyML dan Pengoptimuman Model

Alat dan teknik membolehkan pengecilan rangkaian neural untuk peranti kecil.

  • Pengoptimuman TensorFlow Lite
  • Pemangkasan dan kuantisasi model
  • Distilasi pengetahuan
  • TinyML untuk mikropengawal

5G dan Sambungan

Wayarles generasi seterusnya menyediakan jalur lebar tinggi dan pautan latensi rendah yang melengkapi Edge AI.

  • Rangkaian tempatan pantas untuk koordinasi peranti
  • Memindahkan tugasan berat bila perlu
  • Kilang pintar dan komunikasi V2X
  • Kluster peranti tepi yang dipertingkatkan

Pembelajaran Federasi

Kaedah pelindung privasi membolehkan beberapa peranti tepi melatih model bersama tanpa berkongsi data mentah.

  • Peningkatan model tempatan
  • Hanya berkongsi kemas kini model
  • Penggunaan data teragih
  • Perlindungan privasi dipertingkatkan
Inovasi Masa Depan: Penyelidikan sedang meneroka pengkomputeran neuromorfik dan AI generatif pada peranti. Ramalan termasuk cip berinspirasikan otak dan model bahasa besar tempatan muncul di tepi, menolak had apa yang boleh dicapai oleh Edge AI.

Teknologi ini terus menolak had apa yang boleh dilakukan oleh Edge AI. Bersama-sama, mereka membantu menyampaikan – mengalihkan kecerdasan lebih dekat kepada pengguna dan sensor.


Kesimpulan

Edge AI mengubah cara kita menggunakan kecerdasan buatan dengan memindahkan pengkomputeran ke sumber data. Ia melengkapi cloud AI, menyediakan analitik yang lebih pantas, lebih cekap, dan lebih privasi pada peranti tempatan.

Pendekatan ini menangani cabaran masa nyata dan jalur lebar yang wujud dalam seni bina berpusatkan awan. Dalam praktiknya, Edge AI menggerakkan pelbagai teknologi moden – daripada sensor pintar dan kilang ke drone dan kereta pandu sendiri – dengan membolehkan kecerdasan di tempat.

Pertumbuhan Pasaran Edge AI 15%

Dengan proliferasi peranti IoT dan peningkatan rangkaian, Edge AI dijangka terus berkembang. Kemajuan dalam perkakasan (cip berkuasa tinggi, TinyML) dan teknik (pembelajaran federasi, pengoptimuman model) memudahkan AI diletakkan di mana-mana.

Kesepakatan Pakar: Edge AI membawa peningkatan ketara dalam kecekapan, privasi, dan penggunaan jalur lebar. Edge AI adalah masa depan kecerdasan terbina dalam – menawarkan yang terbaik dalam AI dalam bentuk teragih dan pada peranti.
Terokai lebih banyak teknologi dan konsep AI
Rujukan Luaran
Artikel ini telah disusun berdasarkan sumber luaran berikut:
135 artikel
Rosie Ha adalah penulis di Inviai, yang pakar berkongsi pengetahuan dan penyelesaian mengenai kecerdasan buatan. Dengan pengalaman dalam penyelidikan dan aplikasi AI dalam pelbagai bidang seperti perniagaan, penciptaan kandungan, dan automasi, Rosie Ha akan menyampaikan artikel yang mudah difahami, praktikal dan memberi inspirasi. Misi Rosie Ha adalah untuk membantu semua orang memanfaatkan AI dengan berkesan bagi meningkatkan produktiviti dan mengembangkan kreativiti.

Komen 0

Tinggalkan Komen

Belum ada komen. Jadi yang pertama memberi komen!

Cari