Edge AI (mara nyingine huitwa “AI kwenye Edge”) inamaanisha kuendesha akili bandia na mifano ya kujifunza mashine kwenye vifaa vya karibu (vichunguzi, kamera, simu za mkononi, milango ya viwandani, n.k.) badala ya kwenye vituo vya data vya mbali. Kwa maneno mengine, “edge” ya mtandao – mahali data inapotengenezwa – ndiyo inayoshughulikia usindikaji. Hii inaruhusu vifaa kuchambua data mara moja inavyokusanywa, badala ya kutuma data ghafi kila mara kwenda kwenye wingu.

Kama IBM inavyofafanua, Edge AI inaruhusu usindikaji wa wakati halisi, moja kwa moja kwenye kifaa bila kutegemea seva kuu. Kwa mfano, kamera yenye Edge AI inaweza kugundua na kuainisha vitu papo hapo, ikitoa mrejesho wa haraka. Kwa kusindika data kwa karibu, Edge AI inaweza kufanya kazi hata kama muunganisho wa intaneti ni wa kati au haupo kabisa.

Kulingana na ripoti za sekta, mabadiliko haya yanaendelea kwa kasi: matumizi ya kimataifa ya kompyuta ya edge yalifikia takriban $232 bilioni mwaka 2024 (ongezeko la 15% kutoka 2023), hasa kutokana na ukuaji wa IoT unaotumia AI.
Kwa muhtasari, Edge AI huleta usindikaji karibu na chanzo cha data – kwa kuweka akili kwenye vifaa au nodi za karibu, jambo linaloongeza kasi ya majibu na kupunguza haja ya kutuma kila kitu kwenye wingu.

Tofauti Kuu kati ya Edge AI na Cloud AI

Tofauti na AI ya kawaida inayotegemea wingu (ambayo hutuma data yote kwenye seva za kati), Edge AI hugawanya usindikaji kati ya vifaa vilivyo mahali pa kazi. Mchoro hapo juu unaonyesha mfano rahisi wa kompyuta ya edge: vifaa vya mwisho (tabaka la chini) hutuma data kwa seva ya edge au lango (tabaka la kati) badala ya tu kwenda kwenye wingu la mbali (tabaka la juu).

Katika mpangilio huu, utambuzi wa AI unaweza kufanyika kwenye kifaa au nodi ya edge ya karibu, kupunguza sana ucheleweshaji wa mawasiliano.

• Ucheleweshaji: Edge AI hupunguza ucheleweshaji. Kwa kuwa usindikaji ni wa karibu, maamuzi yanaweza kufanyika kwa milisekunde. IBM inabainisha kuwa utambuzi wa edge “hutoa ucheleweshaji mdogo kwa kusindika data moja kwa moja kwenye kifaa,” wakati AI ya wingu husababisha ucheleweshaji zaidi kwa kutuma data kwenda na kurudi kwenye seva za mbali.
  Hii ni muhimu kwa kazi zinazohitaji majibu ya haraka (mfano: kuepuka ajali ya gari au kudhibiti roboti).
• Upatikanaji wa mtandao: Edge AI hupunguza mzigo wa mtandao. Kwa kuchambua au kuchuja data mahali hapo, taarifa chache sana zinahitajika kutumwa juu. IBM inaeleza kuwa mifumo ya edge “inahitaji upatikanaji mdogo wa mtandao” kwa sababu data nyingi hubaki karibu.
  Kinyume chake, AI ya wingu inahitaji muunganisho wa kasi ya juu kila wakati kusafirisha data ghafi. Hii inafanya Edge AI kuwa bora na nafuu zaidi wakati mitandao ni yenye msongamano au gharama kubwa.
• Faragha/Usalama: Edge AI inaweza kuboresha faragha. Data nyeti (sauti, picha, vipimo vya afya) inaweza kusindika na kuhifadhiwa kwenye kifaa, bila kutumwa kwenye wingu. Hii hupunguza hatari ya uvunjifu wa usalama na watu wa tatu.
  Kwa mfano, simu ya mkononi inaweza kutambua uso wako kwa karibu bila kupakia picha yako. Kinyume chake, AI ya wingu mara nyingi huhitaji kutuma data binafsi kwenye seva za nje, jambo linaloweza kuongeza hatari za usalama.
• Rasilimali za Usindikaji: Vituo vya data vya wingu vina nguvu isiyo na kikomo ya CPU/GPU, kuruhusu mifano mikubwa ya AI. Vifaa vya edge vina uwezo mdogo wa usindikaji na uhifadhi. Kama IBM inavyosema, vifaa vya edge vina “vikwazo vya ukubwa wa kifaa”.
  Kwa hivyo, Edge AI mara nyingi hutumia mifano iliyoboreshwa au midogo. Kawaida, mafunzo ya mifano mizito bado hufanyika kwenye wingu, na mifano midogo, iliyopunguzwa hutumwa kwenye vifaa vya edge.
• Uaminifu: Kwa kupunguza utegemezi wa muunganisho wa mtandao wa kudumu, Edge AI inaweza kuendelea kuendesha kazi muhimu hata kama mtandao unakatika. Droni, kwa mfano, inaweza kuongoza kwa kutumia AI iliyoko ndani wakati inapopoteza ishara ya mawasiliano na kituo cha msingi.

Kwa kifupi, AI ya edge na AI ya wingu zinakamilishana. Seva za wingu hushughulikia mafunzo makubwa, kuhifadhi na uchambuzi wa data nyingi, wakati Edge AI hushughulikia utambuzi wa wakati halisi na maamuzi ya haraka karibu na chanzo cha data.

Manufaa ya Edge AI

Edge AI hutoa faida kadhaa za vitendo kwa watumiaji na mashirika:

• Majibu ya wakati halisi: Kusindika data kwa karibu kunaruhusu uchambuzi wa papo hapo. Watumiaji hupata mrejesho wa haraka (mfano: kugundua vitu moja kwa moja, jibu la sauti, onyo la kasoro) bila kusubiri safari ya data kwenda na kurudi kwenye wingu.
  Ucheleweshaji mdogo ni faida kubwa kwa matumizi kama uhalisia ulioboreshwa, magari yanayojiendesha, na roboti.
• Kupunguza upatikanaji wa mtandao na gharama: Kwa Edge AI, matokeo yaliyosummarize au matukio yasiyo ya kawaida tu ndiyo yanatakiwa kutumwa mtandaoni. Hii hupunguza gharama za usafirishaji data na uhifadhi wa wingu.
  Kwa mfano, kamera ya usalama inaweza kupakia video tu inapogundua tishio, badala ya kupeleka video moja kwa moja kila wakati.
• Faragha iliyoboreshwa: Kuweka data kwenye kifaa huongeza usalama. Taarifa binafsi au nyeti hazitokei kwenye vifaa vya karibu ikiwa zinasindika kwenye edge.
  Hii ni muhimu hasa kwa matumizi yanayozingatia sheria kali za faragha (huduma za afya, fedha, n.k.), kwani Edge AI inaweza kuweka data ndani ya nchi au taasisi.
• Ufanisi wa nishati na gharama: AI kwenye kifaa inaweza kuokoa nguvu. Kuendesha mfano mdogo kwenye chipu yenye nguvu ndogo mara nyingi hutumia nishati kidogo kuliko kutuma data kwenye seva ya wingu na kurudisha.
  Hii pia hupunguza gharama za seva – kazi kubwa za AI ni ghali kuendesha kwenye wingu.
• Uwezo wa kufanya kazi bila mtandao na uimara: Edge AI inaweza kuendelea kufanya kazi hata kama muunganisho unakatika. Vifaa vinaweza kufanya kazi kwa akili ya ndani, kisha kusawazisha baadaye.
  Hii hufanya mifumo kuwa imara zaidi, hasa katika maeneo ya mbali au matumizi muhimu (mfano: ufuatiliaji wa viwandani).

Red Hat na IBM zote zinaangazia faida hizi. Edge AI “huleta uwezo wa usindikaji wa hali ya juu kwenye edge,” ikiruhusu uchambuzi wa wakati halisi na ufanisi ulioboreshwa.
Kama ripoti moja inavyosema, usambazaji wa edge hupunguza ucheleweshaji na mahitaji ya mtandao huku ukiongeza faragha na uaminifu.

Changamoto za Edge AI

Licha ya faida zake, Edge AI inakumbana na changamoto:

• Vikwazo vya vifaa: Vifaa vya edge kawaida ni vidogo na vina rasilimali chache. Huwa na CPU ndogo au NPU za nguvu ndogo maalum, na kumbukumbu kidogo.
  Hii inawalazimisha wahandisi wa AI kutumia mbinu za kubana mfano, kupunguza au TinyML ili mifano ifae kwenye kifaa. Mifano tata ya kujifunza kwa kina mara nyingi haiwezi kuendeshwa kikamilifu kwenye microcontroller, hivyo usahihi unaweza kupunguzwa.
• Mafunzo na masasisho ya mifano: Mafunzo ya mifano ya AI yenye ufanisi bado hufanyika kwenye wingu, ambapo data nyingi na nguvu za usindikaji zinapatikana. Baada ya mafunzo, mifano hiyo lazima iboreshwe (kufanyiwa quantization, pruning, n.k.) na itumwe kwenye kila kifaa cha edge.
  Kudumisha maelfu au mamilioni ya vifaa kuwa na masasisho ni changamoto. Usawazishaji wa firmware na data huongeza mzigo wa usimamizi.
• Mvuto wa data na utofauti: Mazingira ya edge ni tofauti. Maeneo tofauti yanaweza kukusanya aina tofauti za data (vichunguzi hutofautiana kwa matumizi), na sera zinaweza kutofautiana kanda kwa kanda.
  Kuunganisha na kuoanisha data yote ni changamoto. Kama IBM inavyosema, usambazaji wa edge AI unaongeza masuala ya “mvuto wa data, utofauti, ukubwa na vikwazo vya rasilimali”. Kwa maneno mengine, data hubaki karibu, na vifaa vina aina na ukubwa tofauti.
• Usalama kwenye edge: Ingawa Edge AI inaweza kuboresha faragha, pia huleta changamoto mpya za usalama. Kila kifaa au nodi ni lengo la wavamizi.
  Kuhakikisha mifano ya ndani haivunjiki na firmware ni salama kunahitaji kinga madhubuti.
• Utegemezi wa muunganisho kwa baadhi ya kazi: Ingawa utambuzi unaweza kufanyika kwa karibu, mifumo ya edge bado mara nyingi hutegemea muunganisho wa wingu kwa kazi nzito kama mafunzo ya mifano, uchambuzi mkubwa wa data, au kuunganisha matokeo yaliyosambazwa.
  Muunganisho mdogo unaweza kuzuia kazi hizi za nyuma.

Katika matumizi halisi, suluhisho nyingi hutumia mfano wa mchanganyiko: vifaa vya edge hushughulikia utambuzi, wakati wingu hushughulikia mafunzo, usimamizi wa mifano na uchambuzi mkubwa wa data.
Mchanganyiko huu husaidia kushinda vikwazo vya rasilimali na kuruhusu Edge AI kupanuka.

Matumizi ya Edge AI

Edge AI inatumiwa katika sekta nyingi. Mifano halisi ni pamoja na:

• Magari yanayojiendesha: Magari yanayojiendesha hutumia Edge AI iliyoko ndani kuchakata data ya kamera na rada papo hapo kwa ajili ya kuongoza na kuepuka vikwazo.
  Haya hayawezi kuvumilia ucheleweshaji wa kutuma video kwenye seva, hivyo kila kitu (ugundaji wa vitu, utambuzi wa watembea kwa miguu, ufuatiliaji wa njia) hufanyika kwa karibu.
• Uzalishaji na Viwanda 4.0: Viwanda vinaweka kamera smart na vichunguzi kwenye mistari ya uzalishaji kugundua kasoro au kasoro papo hapo.
  Kwa mfano, kamera ya Edge AI inaweza kugundua bidhaa yenye hitilafu kwenye mkondo na kusababisha hatua za haraka. Vivyo hivyo, mashine za viwandani hutumia AI ya karibu kutabiri hitilafu za vifaa (matengenezo ya utabiri) kabla ya kuvunjika.
• Huduma za Afya na Majibu ya Dharura: Vifaa vya matibabu vinavyobebeka na ambulensi sasa hutumia Edge AI kuchambua data za mgonjwa papo hapo.
  Ultrasound au kipimo cha dalili za maisha kwenye ambulensi kinaweza kutumia AI mara moja kugundua majeraha ya ndani au kutoa onyo kwa wahudumu wa afya kuhusu dalili zisizo za kawaida. Hospitalini, Edge AI inaweza kufuatilia wagonjwa wa ICU kwa muda wote na kutoa alarm bila kusubiri seva kuu.
• Miji Smart: Mifumo ya mijini hutumia Edge AI kusimamia trafiki, uangalizi, na uchunguzi wa mazingira.
  Taa za trafiki smart hujirekebisha kwa kutumia AI ya karibu inayochambua video za kamera, kupunguza msongamano papo hapo. Kamera za mtaa zinaweza kugundua matukio (ajali, moto) na kutoa taarifa kwa mamlaka mara moja. Kwa kuweka usindikaji karibu, miji inaweza kutoa majibu haraka bila kuzuia mitandao kuu.
• Rejareja na IoT kwa Watumiaji: Edge AI huboresha uzoefu wa mteja na urahisi.
  Kwenye maduka, kamera smart au vichunguzi vya rafu hutumia AI kufuatilia tabia za wanunuzi na viwango vya hisa papo hapo. Nyumbani, simu za mkononi, vidonge na spika smart hufanya utambuzi wa sauti au uso kwenye kifaa. Kwa mfano, simu inaweza kufungua au kutambua ishara bila muunganisho wa wingu. Vifuatilia afya huchambua data za afya (moyo, hatua) kwa karibu kutoa mrejesho wa wakati halisi.

Matumizi mengine yanayojitokeza ni pamoja na kilimo cha usahihi (droni na vichunguzi vinavyotumia Edge AI kufuatilia afya ya udongo na mazao) na mifumo ya usalama (utambuzi wa uso kwenye kifaa kwa ajili ya kufunga). Kama utafiti mmoja wa IEEE unavyosema, Edge AI ni muhimu kwa matumizi kama kilimo smart, usimamizi wa trafiki, na uendeshaji wa viwanda.
Kwa kifupi, hali yoyote inayonufaika na uchambuzi wa papo hapo, wa karibu ni mgombea mzuri kwa Edge AI.

Teknolojia na Mwelekeo wa Kusaidia

Ukuaji wa Edge AI unachochewa na maendeleo ya vifaa na programu:

• Vifaa maalum: Watengenezaji wanatengeneza chipu zilizobuniwa kwa ajili ya utambuzi wa edge. Hizi ni pamoja na viendeshi vya neva vya nguvu ndogo kwenye simu (NPU) na moduli za AI za edge kama Google Coral Edge TPU, NVIDIA Jetson Nano, na bodi za microcontroller za gharama nafuu (Arduino, Raspberry Pi na nyongeza za AI).
  Ripoti ya hivi karibuni ya sekta inaonyesha maendeleo katika vichakataji vya nguvu ndogo sana na algoriti za “asili ya edge” zinazozidi vikwazo vya vifaa.
• TinyML na uboreshaji wa mifano: Zana kama TensorFlow Lite na mbinu kama kupunguza mfano, quantization na distillation zinawezesha kupunguza mitandao ya neva ili ifae kwenye vifaa vidogo.
  “TinyML” ni uwanja unaojitokeza unaolenga kuendesha ML kwenye microcontrollers. Mbinu hizi zinaongeza AI kwa vichunguzi na vifaa vinavyotumia betri.
• 5G na muunganisho: Mizizi ya wireless ya kizazi kijacho (5G na zaidi) hutoa upatikanaji wa mtandao wa kasi na ucheleweshaji mdogo unaoendana na Edge AI.
  Mitandao ya karibu yenye kasi hufanya iwe rahisi kuratibu vikundi vya vifaa vya edge na kuondoa kazi nzito inapohitajika. Ushirikiano huu kati ya 5G na AI unaruhusu matumizi mapya (mfano: viwanda smart, mawasiliano ya gari kwa kila kitu).
• Mafunzo ya pamoja na ya ushirikiano: Mbinu za kuhifadhi faragha kama mafunzo ya pamoja huruhusu vifaa vingi vya edge kufundisha mfano pamoja bila kushiriki data ghafi.
  Kila kifaa huboresha mfano kwa karibu na kushiriki masasisho tu. Mwelekeo huu (unaoonekana katika ramani za teknolojia za baadaye) utaongeza Edge AI kwa kutumia data iliyosambazwa huku ikihifadhi faragha.
• Mifumo mipya inayojitokeza: Kuangalia mbele, utafiti unachunguza kompyuta za neuromorphic na AI ya kizazi kwenye kifaa ili kuongeza akili ya edge zaidi.
  Kama ripoti moja inavyotabiri, uvumbuzi kama chipu zinazotegemea ubongo na mifano mikubwa ya lugha ya ndani yanaweza kuonekana kwenye edge.

Teknolojia hizi zinaendelea kusukuma mipaka ya kile Edge AI kinaweza kufanya. Pamoja, husaidia kuleta “enzi ya utambuzi wa AI” – kuhamisha akili karibu na watumiaji na vichunguzi.

>>> Huenda unavutiwa:

Je, AI ya Kizazi ni Nini?

Je, Nini Kujifunza kwa Kuimarisha?

Edge AI inabadilisha jinsi tunavyotumia akili bandia kwa kuhamisha usindikaji karibu na chanzo cha data. Inakamilisha AI ya wingu, ikitoa uchambuzi wa haraka, wenye ufanisi zaidi, na wenye faragha zaidi kwenye vifaa vya karibu.
Njia hii inashughulikia changamoto za wakati halisi na upatikanaji wa mtandao zinazojitokeza katika miundo ya wingu. Katika matumizi halisi, Edge AI inaendesha teknolojia nyingi za kisasa – kutoka kwa vichunguzi smart na viwanda hadi droni na magari yanayojiendesha – kwa kuwezesha akili ya papo hapo.

Kadiri vifaa vya IoT vinavyoongezeka na mitandao kuboreshwa, Edge AI inatarajiwa kukua zaidi. Maendeleo ya vifaa (microchips zenye nguvu, TinyML) na mbinu (mafunzo ya pamoja, uboreshaji wa mifano) yanarahisisha kuweka AI kila mahali.
Kulingana na wataalamu, Edge AI inaleta faida kubwa katika ufanisi, faragha, na matumizi ya mtandao. Kwa kifupi, Edge AI ni mustakabali wa akili iliyojumuishwa – ikitoa bora ya AI kwa njia iliyosambazwa, moja kwa moja kwenye kifaa.