Edge AI (kadang-kadang dipanggil “AI di tepi”) bermaksud menjalankan model kecerdasan buatan dan pembelajaran mesin pada peranti tempatan (sensor, kamera, telefon pintar, pintu masuk industri, dan lain-lain) dan bukannya di pusat data jauh. Dengan kata lain, “tepi” rangkaian – di mana data dijana – yang mengendalikan pengkomputeran. Ini membolehkan peranti menganalisis data dengan segera sewaktu ia dikumpulkan, tanpa perlu sentiasa menghantar data mentah ke awan.

Seperti yang dijelaskan oleh IBM, Edge AI membolehkan pemprosesan masa nyata secara terus pada peranti tanpa bergantung pada pelayan pusat. Contohnya, kamera dengan Edge AI boleh mengesan dan mengklasifikasikan objek secara langsung, memberikan maklum balas segera. Dengan memproses data secara tempatan, Edge AI boleh berfungsi walaupun dengan sambungan internet yang tidak konsisten atau tiada langsung.

Menurut laporan industri, perubahan ini berlaku dengan pantas: perbelanjaan global untuk pengkomputeran tepi mencapai kira-kira $232 bilion pada 2024 (naik 15% dari 2023), didorong terutamanya oleh pertumbuhan IoT berkuasa AI.
Secara ringkas, Edge AI membawa pengkomputeran lebih dekat kepada sumber data – dengan meletakkan kecerdasan pada peranti atau nod berdekatan, yang mempercepatkan respons dan mengurangkan keperluan untuk menghantar semuanya ke awan.

Perbezaan Utama Antara Edge AI dan Cloud AI

Berbeza dengan AI berasaskan awan tradisional (yang menghantar semua data ke pelayan berpusat), Edge AI mengagihkan pengkomputeran di antara perkakasan di tapak. Rajah di atas menggambarkan model pengkomputeran tepi yang mudah: peranti akhir (lapisan bawah) menghantar data ke pelayan tepi atau pintu masuk (lapisan tengah) dan bukannya hanya ke awan jauh (lapisan atas).

Dalam susunan ini, inferens AI boleh berlaku pada peranti atau nod tepi tempatan, mengurangkan kelewatan komunikasi dengan ketara.

• Latensi: Edge AI meminimumkan kelewatan. Oleh kerana pemprosesan berlaku secara tempatan, keputusan boleh dibuat dalam milisaat. IBM menyatakan bahawa inferens berasaskan tepi “menyediakan latensi yang dikurangkan dengan memproses data terus pada peranti,” manakala AI awan mengalami kelewatan tambahan kerana penghantaran data ke dan dari pelayan jauh.
  Ini penting untuk tugas yang sensitif masa (contohnya mengelakkan kemalangan kereta atau mengawal robot).
• Jalur Lebar: Edge AI mengurangkan beban rangkaian. Dengan menganalisis atau menapis data di tapak, jauh lebih sedikit maklumat perlu dihantar ke atas. IBM menjelaskan bahawa sistem tepi “memerlukan jalur lebar yang lebih rendah” kerana kebanyakan data kekal secara tempatan.
  Sebaliknya, AI awan memerlukan sambungan berkelajuan tinggi yang berterusan untuk memindahkan data mentah bolak-balik. Ini menjadikan Edge AI lebih cekap dan kos efektif apabila rangkaian sibuk atau mahal.
• Privasi/Keselamatan: Edge AI boleh meningkatkan privasi. Data sensitif (suara, imej, bacaan kesihatan) boleh diproses dan disimpan pada peranti, tanpa pernah dihantar ke awan. Ini mengurangkan pendedahan kepada pelanggaran pihak ketiga.
  Contohnya, telefon pintar mungkin mengenal pasti wajah anda secara tempatan tanpa memuat naik gambar anda. Sebaliknya, AI awan sering melibatkan penghantaran data peribadi ke pelayan luar, yang boleh meningkatkan risiko keselamatan.
• Sumber Pengkomputeran: Pusat data awan mempunyai kuasa CPU/GPU yang hampir tidak terhad, membolehkan model AI yang sangat besar. Peranti tepi mempunyai pemprosesan dan penyimpanan yang jauh lebih terhad. Seperti yang dinyatakan oleh IBM, unit tepi “terhad oleh kekangan saiz peranti”.
  Oleh itu, Edge AI sering menggunakan model yang dioptimumkan atau lebih kecil. Dalam praktiknya, latihan model berat biasanya masih berlaku di awan, dan hanya model yang padat dan dikuantisasi yang digunakan pada peranti tepi.
• Keandalan: Dengan mengurangkan kebergantungan pada sambungan berterusan, Edge AI boleh mengekalkan fungsi kritikal walaupun rangkaian terputus. Contohnya, dron boleh menavigasi menggunakan AI terbina dalam apabila kehilangan isyarat ke pangkalan.

Ringkasnya, AI tepi dan awan saling melengkapi. Pelayan awan mengendalikan latihan berat, arkib dan analitik kumpulan besar, manakala Edge AI mengendalikan inferens masa nyata dan keputusan pantas berhampiran sumber data.

Manfaat Edge AI

Edge AI menawarkan beberapa kelebihan praktikal untuk pengguna dan organisasi:

• Respons masa nyata: Memproses data secara tempatan membolehkan analisis segera. Pengguna mendapat maklum balas serta-merta (contohnya pengesanan objek langsung, balasan suara, amaran anomali) tanpa perlu menunggu perjalanan pergi balik ke awan.
  Latensi rendah ini adalah kelebihan utama untuk aplikasi seperti realiti terimbuh, kenderaan autonomi, dan robotik.
• Pengurangan jalur lebar dan kos: Dengan Edge AI, hanya keputusan ringkas atau kejadian luar biasa perlu dihantar melalui internet. Ini mengurangkan kos pemindahan data dan penyimpanan awan.
  Contohnya, kamera keselamatan mungkin hanya memuat naik klip apabila mengesan ancaman berpotensi, bukan menstrim secara berterusan.
• Privasi dipertingkatkan: Menyimpan data pada peranti meningkatkan keselamatan. Maklumat peribadi atau sensitif tidak pernah meninggalkan perkakasan tempatan jika diproses di tepi.
  Ini sangat penting untuk aplikasi yang tertakluk kepada peraturan privasi ketat (kesihatan, kewangan, dan lain-lain), kerana Edge AI boleh mengekalkan data dalam negara atau kemudahan.
• Kecekapan tenaga dan kos: AI pada peranti boleh menjimatkan tenaga. Menjalankan model kecil pada cip berkuasa rendah biasanya menggunakan tenaga lebih sedikit berbanding menghantar data ke pelayan awan dan kembali.
  Ia juga mengurangkan kos pelayan – beban kerja AI yang besar mahal untuk dihoskan di awan.
• Kebolehan luar talian dan ketahanan: Edge AI boleh terus berfungsi jika sambungan gagal. Peranti masih boleh beroperasi dengan kecerdasan tempatan, kemudian menyelaraskan kemudian.
  Ini menjadikan sistem lebih tahan lasak, terutamanya di kawasan terpencil atau untuk kegunaan kritikal (contohnya pemantauan industri).

Red Hat dan IBM kedua-duanya menekankan kelebihan ini. Edge AI “membawa keupayaan pengkomputeran berprestasi tinggi ke tepi,” membolehkan analisis masa nyata dan peningkatan kecekapan.
Seperti yang diringkaskan dalam satu laporan, penggunaan tepi mengurangkan latensi dan keperluan jalur lebar sambil meningkatkan privasi dan kebolehpercayaan.

Cabaran Edge AI

Walaupun mempunyai kelebihan, Edge AI juga menghadapi beberapa cabaran:

• Had perkakasan: Peranti tepi biasanya kecil dan berkapasiti terhad. Mereka mungkin hanya mempunyai CPU sederhana atau NPU berkuasa rendah khusus, dan memori terhad.
  Ini memaksa jurutera AI menggunakan teknik pemampatan model, pemangkasan atau TinyML untuk menyesuaikan model pada peranti. Model pembelajaran mendalam yang kompleks sering tidak boleh dijalankan sepenuhnya pada mikropengawal, jadi ketepatan mungkin dikorbankan.
• Latihan model dan kemas kini: Latihan model AI yang canggih biasanya masih berlaku di awan, di mana data besar dan kuasa pengkomputeran tersedia. Selepas latihan, model tersebut mesti dioptimumkan (dikuantisasi, dipangkas, dan lain-lain) dan disebarkan ke setiap peranti tepi.
  Menjaga ribuan atau jutaan peranti sentiasa dikemas kini boleh menjadi rumit. Penyelarasan firmware dan data menambah beban pengurusan.
• Graviti data dan heterogeniti: Persekitaran tepi adalah pelbagai. Lokasi berbeza mungkin mengumpul jenis data berbeza (sensor berbeza mengikut aplikasi), dan polisi mungkin berbeza mengikut wilayah.
  Mengintegrasi dan menstandardkan semua data ini adalah mencabar. Seperti yang dinyatakan oleh IBM, penggunaan meluas Edge AI menimbulkan isu “graviti data, heterogeniti, skala dan kekangan sumber”. Dengan kata lain, data cenderung kekal secara tempatan, menyukarkan pengumpulan pandangan global, dan peranti datang dalam pelbagai bentuk dan saiz.
• Keselamatan di tepi: Walaupun Edge AI boleh meningkatkan privasi, ia juga membawa kebimbangan keselamatan baru. Setiap peranti atau nod adalah sasaran berpotensi bagi penggodam.
  Memastikan model tempatan tidak boleh diubah suai dan firmware selamat memerlukan langkah keselamatan yang kukuh.
• Kebergantungan pada sambungan untuk beberapa tugas: Walaupun inferens boleh berlaku secara tempatan, sistem tepi masih sering bergantung pada sambungan awan untuk tugas berat seperti latihan semula model, analitik data berskala besar, atau pengumpulan keputusan teragih.
  Sambungan terhad boleh menjadi halangan bagi fungsi belakang tabir ini.

Dalam praktiknya, kebanyakan penyelesaian menggunakan model hibrid: peranti tepi mengendalikan inferens, manakala awan mengendalikan latihan, pengurusan model dan analitik data besar.
Imbangan ini membantu mengatasi kekangan sumber dan membolehkan Edge AI berkembang skala.

Kes Penggunaan Edge AI

Edge AI sedang digunakan dalam pelbagai industri. Contoh dunia sebenar termasuk:

• Kenderaan autonomi: Kereta pandu sendiri menggunakan Edge AI terbina dalam untuk memproses data kamera dan radar dengan segera bagi navigasi dan pengelakan halangan.
  Mereka tidak mampu menanggung kelewatan menghantar video ke pelayan, jadi semua (pengesanan objek, pengenalan pejalan kaki, penjejakan lorong) berlaku secara tempatan.
• Pembuatan dan Industri 4.0: Kilangan menggunakan kamera pintar dan sensor pada barisan pengeluaran untuk mengesan kecacatan atau anomali secara masa nyata.
  Contohnya, kamera Edge AI boleh mengesan produk rosak pada penghantar dan memicu tindakan segera. Begitu juga, mesin industri menggunakan AI di tapak untuk meramalkan kegagalan peralatan (penyelenggaraan ramalan) sebelum kerosakan berlaku.
• Penjagaan Kesihatan dan Respons Kecemasan: Peranti perubatan mudah alih dan ambulans kini menggunakan Edge AI untuk menganalisis data pesakit di tempat.
  Ultrasound atau monitor tanda vital di dalam ambulans boleh menggunakan AI dengan segera untuk mengesan kecederaan dalaman atau memberi amaran kepada paramedik tentang tanda vital yang luar biasa. Di hospital, Edge AI boleh memantau pesakit ICU secara berterusan dan memicu penggera tanpa menunggu pelayan pusat.
• Bandar Pintar: Sistem bandar menggunakan Edge AI untuk pengurusan trafik, pengawasan, dan pengesanan alam sekitar.
  Lampu trafik pintar menyesuaikan masa menggunakan AI tempatan yang menganalisis aliran kamera, mengurangkan kesesakan secara masa nyata. Kamera jalan boleh mengesan insiden (kemalangan, kebakaran) dan memberi amaran kepada pihak berkuasa dengan segera. Dengan memproses secara tempatan, bandar boleh bertindak pantas tanpa membebankan rangkaian pusat.
• Runcit dan IoT Pengguna: Edge AI meningkatkan pengalaman pelanggan dan kemudahan.
  Di kedai, kamera pintar atau sensor rak menggunakan AI untuk mengesan tingkah laku pembeli dan tahap inventori dengan segera. Di rumah, telefon pintar, tablet dan pembesar suara pintar menjalankan pengecaman suara atau wajah pada peranti. Contohnya, telefon pintar boleh membuka kunci atau mengenal pasti isyarat tanpa akses awan. Penjejak kecergasan menganalisis data kesihatan (kadar jantung, langkah) secara tempatan untuk memberi maklum balas masa nyata.

Penggunaan lain yang sedang berkembang termasuk pertanian tepat (dron dan sensor menggunakan Edge AI untuk memantau kesihatan tanah dan tanaman) dan sistem keselamatan (pengenalan wajah pada peranti untuk kunci). Seperti yang dinyatakan dalam kajian IEEE, Edge AI penting untuk aplikasi seperti pertanian pintar, kawalan trafik, dan automasi industri.
Ringkasnya, mana-mana senario yang mendapat manfaat daripada analisis segera dan tempatan adalah calon kuat untuk Edge AI.

Teknologi dan Trend Pemangkin

Pertumbuhan Edge AI didorong oleh kemajuan dalam perkakasan dan perisian:

• Perkakasan khusus: Pengeluar membina cip yang direka untuk inferens tepi. Ini termasuk pemecut neural berkuasa rendah dalam telefon pintar (NPU) dan modul AI tepi khusus seperti Google Coral Edge TPU, NVIDIA Jetson Nano, dan papan mikropengawal kos rendah (Arduino, Raspberry Pi dengan tambahan AI).
  Laporan industri terkini menyatakan bahawa kemajuan dalam pemproses ultra-rendah tenaga dan algoritma “tepi-asli” sedang mengatasi had perkakasan peranti.
• TinyML dan pengoptimuman model: Alat seperti TensorFlow Lite dan teknik seperti pemangkasan model, kuantisasi dan distilasi membolehkan rangkaian neural dikecilkan untuk muat pada peranti kecil.
  “TinyML” adalah bidang baru yang memfokuskan pada menjalankan ML pada mikropengawal. Pendekatan ini meluaskan AI kepada sensor dan peranti boleh pakai yang menggunakan bateri.
• 5G dan sambungan: Generasi seterusnya tanpa wayar (5G dan seterusnya) menyediakan jalur lebar tinggi dan pautan latensi rendah yang melengkapi Edge AI.
  Rangkaian tempatan yang pantas memudahkan penyelarasan kelompok peranti tepi dan memindahkan tugas berat apabila diperlukan. Sinergi antara 5G dan AI ini membolehkan aplikasi baru (contohnya kilang pintar, komunikasi kenderaan-ke-segalanya).
• Pembelajaran federasi dan kolaboratif: Kaedah pemeliharaan privasi seperti pembelajaran federasi membolehkan pelbagai peranti tepi melatih model bersama tanpa berkongsi data mentah.
  Setiap peranti memperbaiki model secara tempatan dan hanya berkongsi kemas kini. Trend ini (yang diramalkan dalam peta jalan teknologi masa depan) akan meningkatkan Edge AI dengan memanfaatkan data teragih sambil mengekalkan privasi.
• Paradigma baru: Ke hadapan, penyelidikan sedang meneroka pengkomputeran neuromorfik dan AI generatif pada peranti untuk meningkatkan kecerdasan tepi.
  Seperti yang diramalkan dalam satu laporan, inovasi seperti cip berinspirasikan otak dan model bahasa besar tempatan mungkin muncul di tepi.

Teknologi ini terus mendorong had kemampuan Edge AI. Bersama-sama, ia membantu menyampaikan “era inferens AI” – memindahkan kecerdasan lebih dekat kepada pengguna dan sensor.

>>> Anda mungkin berminat:

Apakah AI Generatif?

Apakah Pembelajaran Penguatan?

Edge AI mengubah cara kita menggunakan kecerdasan buatan dengan memindahkan pengkomputeran ke sumber data. Ia melengkapi AI awan, menyediakan analitik yang lebih pantas, cekap dan lebih privasi pada peranti tempatan.
Pendekatan ini menangani cabaran masa nyata dan jalur lebar yang wujud dalam seni bina berpusat awan. Dalam praktiknya, Edge AI menggerakkan pelbagai teknologi moden – daripada sensor pintar dan kilang ke dron dan kereta pandu sendiri – dengan membolehkan kecerdasan secara terus di tempat.

Dengan pertambahan peranti IoT dan peningkatan rangkaian, Edge AI dijangka terus berkembang. Kemajuan dalam perkakasan (cip berkuasa tinggi, TinyML) dan teknik (pembelajaran federasi, pengoptimuman model) memudahkan penyebaran AI di mana-mana.
Menurut pakar, Edge AI membawa peningkatan ketara dalam kecekapan, privasi, dan penggunaan jalur lebar. Ringkasnya, Edge AI adalah masa depan kecerdasan terbina dalam – menawarkan kelebihan AI dalam bentuk teragih dan pada peranti.