Acest articol vă va ajuta să înțelegeți mai bine problemele legate de inteligența artificială și securitatea datelor, haideți să descoperim împreună cu INVIAI acum!

Inteligența Artificială (IA) transformă industriile și societatea, dar ridică și preocupări critice privind securitatea datelor. Sistemele moderne de IA sunt alimentate de seturi masive de date, inclusiv informații personale și organizaționale sensibile. Dacă aceste date nu sunt protejate corespunzător, acuratețea și încrederea în rezultatele IA pot fi compromise.

De fapt, securitatea cibernetică este considerată „o condiție necesară pentru siguranța, reziliența, confidențialitatea, echitatea, eficacitatea și fiabilitatea sistemelor IA”. Aceasta înseamnă că protejarea datelor nu este doar o problemă IT – este esențială pentru a asigura că IA aduce beneficii fără a provoca daune.

Pe măsură ce IA devine integrată în operațiuni esențiale la nivel global, organizațiile trebuie să rămână vigilente în protejarea datelor care alimentează aceste sisteme.

Importanța securității datelor în dezvoltarea IA

Puterea IA provine din date. Modelele de învățare automată învață tipare și iau decizii bazate pe datele pe care sunt antrenate. Astfel, securitatea datelor este primordială în dezvoltarea și implementarea sistemelor IA. Dacă un atacator poate manipula sau fura datele, comportamentul și rezultatele IA pot fi distorsionate sau neîncrezătoare.

Strategiile eficiente de gestionare a datelor IA trebuie să asigure că datele nu au fost manipulate sau corupte în niciuna dintre etape, sunt lipsite de conținut malițios sau neautorizat și nu conțin anomalii neintenționate.

În esență, protejarea integrității și confidențialității datelor pe toate fazele ciclului de viață al IA – de la proiectare și antrenament până la implementare și întreținere – este esențială pentru o IA de încredere. Neglijarea securității cibernetice în oricare dintre aceste faze poate submina securitatea întregului sistem IA. Ghidurile oficiale ale agențiilor internaționale de securitate subliniază că măsurile robuste și fundamentale de securitate cibernetică trebuie aplicate tuturor seturilor de date utilizate în proiectarea, dezvoltarea, operarea și actualizarea modelelor IA.

Pe scurt, fără o securitate solidă a datelor, nu putem avea încredere că sistemele IA sunt sigure sau precise.

Provocările privind confidențialitatea datelor în era IA

Una dintre cele mai mari probleme la intersecția dintre IA și securitatea datelor este confidențialitatea. Algoritmii IA necesită adesea cantități vaste de date personale sau sensibile – de la comportamentul online și demografie până la identificatori biometrici – pentru a funcționa eficient. Aceasta ridică îngrijorări legate de modul în care aceste date sunt colectate, utilizate și protejate. Utilizarea neautorizată a datelor și colectarea ascunsă a datelor au devenit provocări frecvente: sistemele IA pot accesa informații personale fără cunoștința sau consimțământul deplin al indivizilor.

De exemplu, unele servicii bazate pe IA extrag date de pe internet – un caz controversat a implicat o companie de recunoaștere facială care a acumulat o bază de date cu peste 20 de miliarde de imagini preluate de pe rețele sociale și site-uri web fără consimțământ. Acest lucru a dus la reacții din partea autorităților, care au aplicat amenzi și interdicții pentru încălcarea legilor privind confidențialitatea. Astfel de incidente evidențiază că inovațiile IA pot depăși cu ușurință limitele etice și legale dacă nu se respectă confidențialitatea datelor.

Autoritățile de reglementare din întreaga lume răspund prin aplicarea legilor de protecție a datelor în contextul IA. Cadre precum Regulamentul General privind Protecția Datelor (GDPR) al Uniunii Europene impun deja cerințe stricte privind modul în care pot fi prelucrate datele personale, afectând proiectele IA la nivel global. De asemenea, sunt în curs de apariție reglementări specifice IA – de exemplu, Legea UE privind IA (așteptată să intre în vigoare până în 2025) va impune sistemelor IA cu risc ridicat să implementeze măsuri care să asigure calitatea, acuratețea și robustețea securității cibernetice a datelor.

Organizațiile internaționale susțin aceste priorități: recomandarea globală UNESCO privind etica IA include explicit „Dreptul la confidențialitate și protecția datelor”, insistând ca intimitatea să fie protejată pe tot parcursul ciclului de viață al sistemului IA și să existe cadre adecvate de protecție a datelor. În concluzie, organizațiile care implementează IA trebuie să navigheze într-un peisaj complex de preocupări și reglementări privind confidențialitatea, asigurând o gestionare transparentă și sigură a datelor personale pentru a menține încrederea publică.

Amenințări la integritatea datelor și sistemelor IA

Securizarea IA nu înseamnă doar protejarea datelor împotriva furtului – este vorba și despre asigurarea integrității datelor și modelelor împotriva atacurilor sofisticate. Actorii malițioși au descoperit metode de a exploata sistemele IA țintind chiar lanțul de aprovizionare cu date. Un avertisment comun în securitate cibernetică din 2025 a evidențiat trei mari riscuri specifice securității datelor IA: lanțuri compromise de aprovizionare cu date, date modificate malițios („otrăvite”) și deriva datelor. Mai jos detaliem aceste și alte amenințări cheie:

• Atacuri de otrăvire a datelor: Într-un atac de otrăvire, un adversar injectează intenționat date false sau înșelătoare în setul de antrenament al unui sistem IA, corupând comportamentul modelului. Deoarece modelele IA „învață” din datele de antrenament, datele otrăvite pot determina luarea unor decizii sau predicții incorecte.
  De exemplu, dacă infractorii cibernetici reușesc să introducă mostre malițioase în datele de antrenament ale unui filtru anti-spam, IA ar putea începe să clasifice ca sigure emailuri periculoase cu malware. Un exemplu notoriu a fost incidentul chatbot-ului Tay al Microsoft în 2016 – internauții au „otravit” chatbot-ul prin introducerea de mesaje ofensatoare, determinând Tay să învețe comportamente toxice. Acest caz a demonstrat cât de rapid poate fi deturnat un sistem IA de datele proaste dacă nu există protecții.

  Otrăvirea poate fi și mai subtilă: atacatorii pot modifica un procent mic dintr-un set de date într-un mod greu de detectat, dar care pătează rezultatul modelului în favoarea lor. Detectarea și prevenirea otrăvirii reprezintă o provocare majoră; bunele practici includ verificarea surselor de date și utilizarea detectării anomaliilor pentru a identifica punctele suspecte înainte ca acestea să influențeze IA.

• Intrări adversariale (atacuri de evitare): Chiar și după ce un model IA este antrenat și implementat, atacatorii pot încerca să-l păcălească prin furnizarea unor intrări atent construite. Într-un atac de evitare, datele de intrare sunt manipulate subtil pentru a determina IA să le interpreteze greșit. Aceste manipulări pot fi imperceptibile pentru oameni, dar pot schimba complet rezultatul modelului.
  Un exemplu clasic implică sistemele de viziune computerizată: cercetătorii au demonstrat că plasarea câtorva autocolante mici sau aplicarea unei pete de vopsea pe un semn de stop poate păcăli IA unei mașini autonome să-l „vadă” ca pe un semn de limitare a vitezei. Imaginea de mai jos ilustrează cum mici ajustări, aparent neînsemnate pentru o persoană, pot induce în eroare complet un model IA. Atacatorii ar putea folosi tehnici similare pentru a ocoli recunoașterea facială sau filtrele de conținut prin adăugarea de perturbații invizibile în imagini sau text. Astfel de exemple adversariale evidențiază o vulnerabilitate fundamentală a IA – recunoașterea tiparelor poate fi exploatată în moduri neașteptate pentru oameni.防

Modificări minore ale unui semn de stop (cum ar fi autocolante subtile sau marcaje) pot păcăli un sistem de viziune IA să-l interpreteze greșit – într-un experiment, un semn de stop modificat a fost interpretat constant ca semn de limitare a vitezei. Acest exemplu arată cum atacurile adversariale pot induce în eroare IA exploatând particularitățile modului în care modelele interpretează datele.

• Riscuri în lanțul de aprovizionare cu date: Dezvoltatorii IA se bazează adesea pe surse externe sau terțe de date (de exemplu, seturi de date extrase de pe web, date deschise sau agregatori de date). Aceasta creează o vulnerabilitate în lanțul de aprovizionare – dacă datele sursă sunt compromise sau provin dintr-o origine neîncredere, pot conține amenințări ascunse.
  De exemplu, un set de date public ar putea fi intenționat contaminat cu intrări malițioase sau erori subtile care ulterior compromit modelul IA care îl utilizează. Asigurarea provenienței datelor (cunoașterea originii datelor și a faptului că nu au fost manipulate) este crucială.

  Ghidurile comune ale agențiilor de securitate recomandă implementarea unor măsuri precum semnături digitale și verificări de integritate pentru a verifica autenticitatea datelor pe măsură ce acestea circulă prin lanțul IA. Fără astfel de protecții, un atacator ar putea prelua controlul asupra lanțului de aprovizionare IA prin modificarea datelor în amonte (de exemplu, manipularea datelor de antrenament ale unui model descărcate dintr-un depozit public).

• Deriva datelor și degradarea modelului: Nu toate amenințările sunt malițioase – unele apar natural în timp. Deriva datelor se referă la fenomenul în care proprietățile statistice ale datelor se schimbă treptat, astfel încât datele cu care sistemul IA se confruntă în operare nu mai corespund celor pe care a fost antrenat. Acest lucru poate duce la scăderea acurateței sau comportamente imprevizibile.
  Deși deriva datelor nu este un atac în sine, devine o problemă de securitate atunci când un model cu performanțe slabe poate fi exploatat de adversari. De exemplu, un sistem IA de detectare a fraudelor antrenat pe tiparele tranzacțiilor din anul precedent ar putea începe să rateze noile tactici de fraudă din acest an, mai ales dacă infractorii se adaptează pentru a evita modelul vechi.

  Atacatorii pot introduce chiar intenționat noi tipare (o formă de deriva conceptuală) pentru a induce în eroare modelele. Reantrenarea regulată a modelelor cu date actualizate și monitorizarea performanței lor sunt esențiale pentru a atenua deriva. Menținerea modelelor actualizate și validarea continuă a rezultatelor asigură reziliența acestora atât față de mediul în schimbare, cât și față de încercările de exploatare a cunoștințelor învechite.

• Atacuri cibernetice tradiționale asupra infrastructurii IA: Este important să reținem că sistemele IA rulează pe stive standard de software și hardware, care rămân vulnerabile la amenințările cibernetice convenționale. Atacatorii pot viza serverele, stocarea în cloud sau bazele de date care găzduiesc datele de antrenament și modelele IA.
  O breșă în aceste zone ar putea expune date sensibile sau permite manipularea sistemului IA. De exemplu, scurgeri de date ale companiilor IA au avut deja loc – într-un caz, lista internă de clienți a unei firme de recunoaștere facială a fost divulgată după ce atacatorii au obținut acces, dezvăluind că peste 2.200 de organizații au folosit serviciul său.

  furtul sau extragerea modelelor este o preocupare emergentă: atacatorii pot fura modele IA proprietare (prin hacking sau interogarea unui serviciu IA public pentru a inversa modelul). Modelele furate pot fi abuzate sau analizate pentru a descoperi alte vulnerabilități. Prin urmare, protejarea modelelor IA (de exemplu, prin criptare în repaus și controlul accesului) este la fel de importantă ca protejarea datelor.

În concluzie, sistemele IA se confruntă cu un amestec de atacuri unice axate pe date (otrăvire, evitare adversarială, interferențe în lanțul de aprovizionare) și riscuri cibernetice tradiționale (hacking, acces neautorizat). Aceasta impune o abordare holistică a securității care să asigure integritatea, confidențialitatea și disponibilitatea datelor și modelelor IA în fiecare etapă.

Așa cum notează Centrul Național de Securitate Cibernetică din Marea Britanie și partenerii săi, sistemele IA aduc „vulnerabilități noi de securitate” și securitatea trebuie să fie o cerință fundamentală pe tot parcursul ciclului de viață al IA, nu o preocupare ulterioară.

IA: O sabie cu două tăișuri pentru securitate

Deși IA introduce noi riscuri de securitate, este și un instrument puternic pentru îmbunătățirea securității datelor atunci când este folosită etic. Este important să recunoaștem această natură duală. Pe de o parte, infractorii cibernetici folosesc IA pentru a-și amplifica atacurile; pe de altă parte, apărătorii utilizează IA pentru a întări securitatea cibernetică.

• IA în mâinile atacatorilor: Ascensiunea IA generative și a învățării automate avansate a redus barierele pentru desfășurarea atacurilor cibernetice sofisticate. Actorii malițioși pot folosi IA pentru a automatiza campanii de phishing și inginerie socială, făcând escrocheriile mai convingătoare și mai greu de detectat.
  De exemplu, IA generativă poate crea emailuri de phishing sau mesaje false extrem de personalizate care imită stilul de scriere al unei persoane, crescând șansele ca victima să fie păcălită. Chatbot-urile IA pot chiar purta conversații în timp real cu țintele, imitând suportul clienți sau colegii, încercând să determine utilizatorii să dezvăluie parole sau informații financiare.

  O altă amenințare o reprezintă deepfake-urile – videoclipuri sau înregistrări audio sintetice generate de IA. Atacatorii au folosit deepfake audio pentru a imita vocile directorilor executivi sau altor oficiali pentru a autoriza transferuri bancare frauduloase, fenomen cunoscut sub numele de „voice phishing”. Similar, videoclipurile deepfake pot fi folosite pentru a răspândi dezinformare sau șantaj. Scalabilitatea IA face ca aceste atacuri să poată fi realizate la o scară și cu un grad de credibilitate imposibil de atins anterior.

  Experții în securitate observă că IA a devenit o armă în arsenalul infractorilor cibernetici, folosită pentru tot, de la identificarea vulnerabilităților software până la automatizarea creării de malware. Această tendință impune organizațiilor să-și întărească apărarea și să educe utilizatorii, deoarece „factorul uman” (cum ar fi căderea în capcana unui email de phishing) este adesea veriga cea mai slabă.

• IA pentru apărare și detectare: Din fericire, aceleași capacități IA pot îmbunătăți dramatic securitatea cibernetică pe partea defensivă. Instrumentele de securitate bazate pe IA pot analiza volume mari de trafic de rețea și jurnale de sistem pentru a identifica anomalii care pot indica o intruziune cibernetică.
  Prin învățarea comportamentului „normal” într-un sistem, modelele de învățare automată pot semnala tipare neobișnuite în timp real – detectând potențial atacatorii în flagrant sau o breșă de date în momentul producerii. Această detectare a anomaliilor este deosebit de utilă pentru identificarea amenințărilor noi și ascunse pe care detectoarele bazate pe semnături le-ar putea rata.

  De exemplu, sistemele IA pot monitoriza tiparele de autentificare ale utilizatorilor sau accesul la date într-o companie și pot alerta echipele de securitate dacă detectează o tentativă neobișnuită de acces sau un utilizator care descarcă o cantitate neobișnuit de mare de date (ceea ce ar putea semnala o amenințare internă sau utilizarea unor credențiale furate). IA este folosită și pentru filtrarea spamului și conținutului malițios, învățând să recunoască emailurile de phishing sau malware după caracteristicile lor.

  În domeniul detectării fraudelor, băncile și instituțiile financiare folosesc IA pentru a evalua instantaneu tranzacțiile în raport cu comportamentul tipic al clientului și pentru a bloca cele suspecte, prevenind frauda în timp real. O altă aplicație defensivă este utilizarea IA pentru gestionarea vulnerabilităților – învățarea automată poate prioritiza cele mai critice vulnerabilități software de remediat, prezicând care sunt cele mai susceptibile de a fi exploatate, ajutând organizațiile să aplice patch-uri înainte de un atac.

  Este important de menționat că IA nu înlocuiește experții umani în securitate, ci îi completează, preluând procesarea masivă a datelor și recunoașterea tiparelor, astfel încât analiștii să se poată concentra pe investigare și răspuns. Această sinergie între instrumentele IA și expertiza umană devine un pilon al strategiei moderne de securitate cibernetică.

În esență, IA crește atât suprafața de amenințare, cât și oferă noi metode de consolidare a apărării. Această cursă a înarmărilor impune organizațiilor să rămână informate despre evoluțiile IA pe ambele fronturi. Încurajator este faptul că mulți furnizori de securitate cibernetică integrează acum IA în produsele lor, iar guvernele finanțează cercetări în domeniul apărării cibernetice bazate pe IA.

Totuși, este necesară prudență: la fel cum se testează orice instrument de securitate, sistemele de apărare IA trebuie evaluate riguros pentru a se asigura că ele însele nu sunt păcălite de adversari (de exemplu, un atacator ar putea încerca să alimenteze un AI defensiv cu date înșelătoare pentru a-l face „orb” la un atac în desfășurare – o formă de otrăvire vizată asupra sistemelor de securitate). Prin urmare, implementarea IA pentru securitate cibernetică trebuie însoțită de validare și supraveghere riguroasă.

Practici recomandate pentru securizarea datelor IA

Având în vedere gama largă de amenințări, ce pot face organizațiile pentru a securiza IA și datele din spatele acesteia? Experții recomandă o abordare stratificată care să integreze securitatea în fiecare etapă a ciclului de viață al unui sistem IA. Iată câteva practici recomandate extrase din ghidurile agențiilor de securitate cibernetică și cercetătorilor reputați:

• Guvernanța datelor și controlul accesului: Începeți cu un control strict asupra celor care pot accesa datele de antrenament IA, modelele și rezultatele sensibile. Folosiți autentificare și autorizare robuste pentru a asigura că doar personalul sau sistemele de încredere pot modifica datele. Toate datele (atât în repaus, cât și în tranzit) trebuie criptate pentru a preveni interceptarea sau furtul.
  Înregistrarea și auditarea accesului la date sunt importante pentru responsabilitate – dacă apare o problemă, jurnalele pot ajuta la identificarea sursei. De asemenea, aplicați principiul celui mai mic privilegiu: fiecare utilizator sau componentă ar trebui să acceseze doar datele minime necesare pentru funcția sa.

• Validarea datelor și proveniența: Înainte de a folosi orice set de date pentru antrenament sau alimentare a IA, verificați integritatea acestuia. Tehnici precum semnăturile digitale și sumele de control pot asigura că datele nu au fost modificate de la colectare. Menținerea unei proveniențe clare (înregistrarea originii) a datelor ajută la încredere – de exemplu, preferați date din surse de încredere, verificate sau parteneri oficiali.
  Dacă folosiți date colectate prin crowdsourcing sau extrase de pe web, luați în considerare verificarea încrucișată cu mai multe surse (o abordare de „consens”) pentru a identifica anomalii. Unele organizații implementează sandboxing pentru date noi – acestea sunt analizate izolat pentru semnale de alarmă (cum ar fi cod malițios sau valori aberante evidente) înainte de a fi integrate în antrenament.

• Practici sigure de dezvoltare IA: Urmați practici de codare și implementare securizate, adaptate IA. Aceasta înseamnă să abordați nu doar vulnerabilitățile software obișnuite, ci și cele specifice IA. De exemplu, integrați principiile „confidențialitate prin design” și „securitate prin design”: construiți modelul IA și lanțul de date cu protecții încă de la început, nu adăugați ulterior.
  Ghidurile din Marea Britanie și SUA pentru dezvoltarea IA securizată recomandă folosirea modelării amenințărilor în faza de proiectare pentru a anticipa cum ar putea fi atacat sistemul IA. În timpul dezvoltării modelului, folosiți tehnici pentru a reduce impactul datelor otrăvite – o metodă este detectarea valorilor aberante în setul de antrenament, astfel încât dacă 5% din date transmit informații ciudate sau dăunătoare, să fie identificate înainte de antrenament.

  O altă abordare este antrenamentul robust al modelului: există algoritmi care pot face modelele mai puțin sensibile la valori aberante sau zgomot adversarial (de exemplu, prin augmentarea datelor de antrenament cu perturbații ușoare pentru ca modelul să învețe să fie rezistent). Revizuirile regulate de cod și testarea securității (inclusiv exerciții de tip red-team în care testeri încearcă activ să spargă sistemul IA) sunt la fel de cruciale pentru IA ca pentru orice software critic.

• Monitorizare și detectare a anomaliilor: După implementare, monitorizați continuu intrările și ieșirile sistemului IA pentru semne de manipulare sau deriva. Configurați alerte pentru tipare neobișnuite – de exemplu, dacă brusc un val de interogări similare și neobișnuite lovește modelul IA (ceea ce ar putea indica un atac de otrăvire sau extragere), sau dacă modelul începe să ofere rezultate evident ciudate. Sistemele de detectare a anomaliilor pot funcționa în fundal pentru a semnaliza aceste evenimente.
  Monitorizarea ar trebui să includă și metrici de calitate a datelor; dacă acuratețea modelului pe date noi începe să scadă neașteptat, acesta poate fi un semn de deriva a datelor sau atac de otrăvire silențios, necesitând investigație. Este recomandat să reantrenați sau să actualizați modelele periodic cu date proaspete pentru a atenua deriva naturală și să aplicați patch-uri dacă se descoperă vulnerabilități noi în algoritmul IA.

• Planuri de răspuns și recuperare în caz de incidente: În ciuda celor mai bune eforturi, pot apărea breșe sau defecțiuni. Organizațiile ar trebui să aibă un plan clar de răspuns la incidente specific pentru sistemele IA. Dacă apare o breșă de date, cum o veți limita și cum veți notifica părțile afectate?
  Dacă descoperiți că datele de antrenament au fost otrăvite, aveți seturi de date de rezervă sau versiuni anterioare ale modelului pe care să vă bazați? Planificarea pentru scenarii de coșmar asigură că un atac asupra IA nu paralizează operațiunile pe termen lung. Faceți backup regulat pentru datele critice și chiar pentru versiunile modelelor – astfel, dacă un model IA în producție este compromis, puteți reveni la o stare cunoscută și sigură.

  În aplicații cu miză mare, unele organizații mențin modele IA redundante sau ansambluri; dacă un model începe să se comporte suspect, un model secundar poate verifica rezultatele sau prelua procesarea până la rezolvarea problemei (asemănător mecanismelor fail-safe).

• Instruirea și conștientizarea angajaților: Securitatea IA nu este doar o problemă tehnică; oamenii joacă un rol important. Asigurați-vă că echipele de știință a datelor și dezvoltare sunt instruite în practici sigure. Trebuie să fie conștienți de amenințări precum atacurile adversariale și să nu presupună că datele pe care le furnizează IA sunt întotdeauna inofensive.
  Încurajați o cultură a scepticismului, unde tendințele neobișnuite de date sunt puse sub semnul întrebării, nu ignorate. De asemenea, educați toți angajații despre riscurile ingineriei sociale bazate pe IA (de exemplu, învățați-i cum să recunoască vocile deepfake sau emailurile de phishing, deoarece acestea sunt în creștere odată cu IA). Vigilența umană poate detecta lucruri pe care sistemele automate le ratează.

Implementarea acestor practici poate reduce semnificativ riscul incidentelor legate de IA și securitatea datelor. Agenții internaționale precum Agenția pentru Securitate Cibernetică și Infrastructură din SUA (CISA) și partenerii săi recomandă exact astfel de măsuri – de la adoptarea unor măsuri puternice de protecție a datelor și gestionarea proactivă a riscurilor, până la consolidarea monitorizării și capacităților de detectare a amenințărilor pentru sistemele IA.

Într-un recent avertisment comun, autoritățile au îndemnat organizațiile să „protejeze datele sensibile, proprietare și critice pentru misiune în sistemele bazate pe IA” folosind măsuri precum criptarea, urmărirea provenienței datelor și testarea riguroasă. Esențial este că securitatea trebuie să fie un proces continuu: evaluările continue ale riscurilor sunt necesare pentru a ține pasul cu amenințările în evoluție.

Așa cum atacatorii dezvoltă mereu strategii noi (mai ales cu ajutorul IA), organizațiile trebuie să-și actualizeze și să-și îmbunătățească constant apărarea.

Eforturi globale și răspunsuri de reglementare

Guvernele și organismele internaționale din întreaga lume abordează activ problemele legate de securitatea datelor IA pentru a stabili încrederea în tehnologiile IA. Am menționat deja viitoarea Lege a UE privind IA, care va impune cerințe privind transparența, gestionarea riscurilor și securitatea cibernetică pentru sistemele IA cu risc ridicat. Europa explorează, de asemenea, actualizări ale legislației privind răspunderea pentru a trage la răspundere furnizorii IA pentru eșecurile de securitate.

În Statele Unite, Institutul Național de Standarde și Tehnologie (NIST) a creat un Cadru de gestionare a riscurilor IA pentru a ghida organizațiile în evaluarea și atenuarea riscurilor IA, inclusiv cele de securitate și confidențialitate. Cadrul NIST, lansat în 2023, pune accent pe construirea unor sisteme IA de încredere prin luarea în considerare a aspectelor precum robustețea, explicabilitatea și siguranța încă din faza de proiectare.

Guvernul SUA a colaborat, de asemenea, cu mari companii IA pentru angajamente voluntare privind securitatea cibernetică – de exemplu, asigurând testarea modelelor de către experți independenți (echipe red) pentru identificarea vulnerabilităților înainte de lansare și investind în tehnici pentru a face rezultatele IA mai sigure.

Cooperarea internațională este remarcabil de puternică în domeniul securității IA. O colaborare de referință a avut loc în 2023, când NCSC din Marea Britanie, CISA, FBI și agenții din peste 20 de țări au publicat împreună ghiduri pentru dezvoltarea IA securizată. Acest avertisment global fără precedent a subliniat că securitatea IA este o provocare comună și a oferit bune practici (aliniate cu principiile secure-by-design menționate anterior) pentru organizațiile din întreaga lume.

S-a subliniat că „securitatea trebuie să fie o cerință fundamentală... pe tot parcursul ciclului de viață” al IA și nu doar o preocupare ulterioară. Astfel de eforturi comune semnalează recunoașterea faptului că amenințările IA nu respectă granițele, iar o vulnerabilitate într-un sistem IA larg utilizat într-o țară poate avea efecte în cascadă la nivel global.

Mai mult, organizații precum UNESCO au făcut pași importanți prin crearea primului standard global privind etica IA (2021), care, deși are un scop mai larg, include puncte puternice privind securitatea și confidențialitatea. Recomandarea UNESCO solicită statelor membre și companiilor să asigure „evitarea și gestionarea daunelor nedorite (riscuri de siguranță) precum și a vulnerabilităților la atac (riscuri de securitate) de către actorii IA”. De asemenea, întărește imperativul de a respecta protecția datelor și drepturile omului în contextul IA.

Vedem teme similare în principiile IA ale OECD și în declarațiile G7 privind IA: toate evidențiază securitatea, responsabilitatea și confidențialitatea utilizatorilor ca piloni cheie pentru o IA de încredere.

În sectorul privat, există un ecosistem în creștere axat pe securitatea IA. Coalițiile din industrie împărtășesc cercetări privind învățarea automată adversarială, iar conferințele includ acum frecvent sesiuni dedicate „AI Red Teaming” și securității ML. Apar instrumente și cadre pentru testarea modelelor IA în vederea identificării vulnerabilităților înainte de implementare. Chiar și organismele de standardizare sunt implicate – ISO lucrează, se pare, la standarde de securitate IA care ar putea completa standardele existente de securitate cibernetică.

Pentru organizații și practicieni, alinierea la aceste ghiduri și standarde globale devine parte a diligenței necesare. Nu doar că reduce riscul incidentelor, dar pregătește și organizațiile pentru conformitatea cu legislația și construiește încrederea utilizatorilor și clienților. În sectoare precum sănătatea și finanțele, demonstrarea că IA este sigură și conformă poate reprezenta un avantaj competitiv.

>>> Vă poate fi util:

Riscurile utilizării inteligenței artificiale

Beneficiile inteligenței artificiale pentru persoane și companii

Potențialul transformator al IA vine la pachet cu provocări semnificative privind securitatea datelor. Asigurarea securității și integrității datelor în sistemele IA este o necesitate, nu o opțiune – este fundamentul succesului și acceptării soluțiilor IA. De la protejarea confidențialității datelor personale până la apărarea modelelor IA împotriva manipulărilor și exploatărilor adversariale, este necesară o abordare cuprinzătoare orientată spre securitate.

Problemele acoperă tehnologia, politica și factorii umani: seturile mari de date trebuie gestionate responsabil conform legilor privind confidențialitatea; modelele IA trebuie protejate împotriva tehnicilor noi de atac; iar utilizatorii și dezvoltatorii trebuie să rămână vigilenți într-o eră a amenințărilor cibernetice generate de IA.

Vestea bună este că gradul de conștientizare privind problemele IA și securitatea datelor este mai ridicat ca niciodată. Guvernele, organismele internaționale și liderii din industrie dezvoltă activ cadre și reglementări pentru a ghida dezvoltarea sigură a IA. Între timp, cercetările de ultimă oră continuă să îmbunătățească reziliența IA – de la algoritmi care rezistă exemplelor adversariale până la noi metode de protecție a confidențialității IA (cum ar fi învățarea federată și confidențialitatea diferențială) care permit obținerea de informații utile fără expunerea datelor brute.

Prin implementarea celor mai bune practici – criptare robustă, validarea datelor, monitorizare continuă și altele – organizațiile pot reduce semnificativ riscurile.

În cele din urmă, IA trebuie dezvoltată și implementată cu o mentalitate „security-first”. Așa cum au remarcat experții, securitatea cibernetică este o condiție prealabilă pentru ca beneficiile IA să fie pe deplin realizate. Când sistemele IA sunt sigure, putem valorifica eficiența și inovațiile lor cu încredere.

Dar dacă ignorăm avertismentele, breșele de date, manipulările malițioase și încălcările confidențialității pot eroda încrederea publică și pot provoca daune reale. În acest domeniu în continuă evoluție, a rămâne proactiv și informat este esențial. IA și securitatea datelor sunt două fețe ale aceleiași monede – și doar abordându-le împreună putem debloca promisiunea IA într-un mod sigur și responsabil pentru toți.