Ryzyka związane z używaniem sztucznej inteligencji

Sztuczna inteligencja (SI) jest dziś obecna wszędzie – od asystentów w smartfonach i kanałów mediów społecznościowych po opiekę zdrowotną i transport. Te technologie przynoszą bezprecedensowe korzyści, ale niosą też poważne ryzyka i wyzwania.

W tym artykule przyjrzymy się z INVIAI ryzykom związanym z używaniem SI we wszystkich obszarach i typach SI – od chatbotów i algorytmów po roboty – opierając się na danych z oficjalnych i międzynarodowych źródeł.

Uprzedzenia i dyskryminacja w systemach SI

Jednym z głównych ryzyk SI jest utrwalanie uprzedzeń i niesprawiedliwej dyskryminacji. Modele SI uczą się na danych, które mogą odzwierciedlać historyczne uprzedzenia lub nierówności; w efekcie system SI może traktować ludzi inaczej ze względu na rasę, płeć lub inne cechy, powielając niesprawiedliwość.

Niewłaściwie działająca ogólnego przeznaczenia SI może wyrządzać szkody poprzez stronnicze decyzje dotyczące chronionych cech, takich jak rasa, płeć, kultura, wiek czy niepełnosprawność.

— Międzynarodowy Raport Bezpieczeństwa SI

Globalne organizacje, takie jak UNESCO, ostrzegają, że bez środków zapewniających sprawiedliwość SI ryzykuje „powielanie uprzedzeń i dyskryminacji ze świata rzeczywistego, podsycanie podziałów i zagrażanie podstawowym prawom i wolnościom człowieka”. Zapewnienie, że systemy SI są trenowane na różnorodnych, reprezentatywnych danych i poddawane audytom pod kątem uprzedzeń, jest niezbędne, aby zapobiec automatycznej dyskryminacji.

Uprzedzenia i dyskryminacja w systemach SI

Dezinformacja i zagrożenia deepfake

Możliwość generowania przez SI hiperrealistycznych tekstów, obrazów i filmów wywołała obawy przed zalewem dezinformacji. Generatywna SI potrafi tworzyć przekonujące fałszywe artykuły, fałszywe obrazy czy filmy deepfake, które trudno odróżnić od rzeczywistości.

Dezinformacja i fałszywe informacje napędzane przez SI stanowią jedno z „największych wyzwań dla procesu demokratycznego w historii” – zwłaszcza gdy miliardy ludzi mają wkrótce głosować w wyborach. Media syntetyczne, takie jak filmy deepfake i klonowane głosy SI, mogą być wykorzystywane do szerzenia propagandy, podszywania się pod osoby publiczne lub popełniania oszustw.

Urzędnicy ostrzegają, że złośliwi aktorzy mogą wykorzystywać SI do masowych kampanii dezinformacyjnych, co ułatwia zalewanie sieci społecznościowych fałszywymi treściami i sianie chaosu. Ryzyko to tworzy cyniczne środowisko informacyjne, w którym obywatele nie mogą ufać temu, co widzą lub słyszą, podważając debatę publiczną i demokrację.

Dezinformacja i zagrożenia deepfake w SI

Zagrożenia dla prywatności i masowa inwigilacja

Szerokie zastosowanie SI rodzi poważne obawy dotyczące prywatności. Systemy SI często wymagają ogromnych ilości danych osobowych – od naszych twarzy i głosów po nawyki zakupowe i lokalizację – aby działać skutecznie. Bez silnych zabezpieczeń dane te mogą być niewłaściwie wykorzystywane lub nadużywane.

Na przykład rozpoznawanie twarzy i algorytmy predykcyjne mogą umożliwić wszechobecną inwigilację, śledząc każdy ruch osób lub oceniając ich zachowanie bez zgody.

Prywatność jest prawem niezbędnym do ochrony godności człowieka, autonomii i podmiotowości, które muszą być respektowane przez cały cykl życia systemu SI.

— Agencje Ochrony Danych

Jeśli rozwój SI wyprzedzi regulacje dotyczące prywatności, jednostki mogą utracić kontrolę nad swoimi danymi. Społeczeństwo musi zapewnić solidne zarządzanie danymi, mechanizmy zgody i techniki ochrony prywatności, aby technologie SI nie stały się narzędziem niekontrolowanej inwigilacji.

Zagrożenia dla prywatności i masowa inwigilacja

Błędy bezpieczeństwa i niezamierzone szkody

Choć SI może automatyzować decyzje i zadania fizyczne z nadludzką skutecznością, może też zawodzić w nieprzewidywalny sposób, powodując realne szkody. Powierzamy SI coraz więcej odpowiedzialności krytycznej dla bezpieczeństwa – jak prowadzenie samochodów, diagnozowanie pacjentów czy zarządzanie sieciami energetycznymi – ale te systemy nie są nieomylne.

Błędy, wadliwe dane treningowe lub nieprzewidziane sytuacje mogą sprawić, że SI popełni niebezpieczne pomyłki. SI w samochodzie autonomicznym może błędnie rozpoznać pieszego, a medyczna SI może zalecić niewłaściwe leczenie, co może mieć śmiertelne skutki.

Niekorzystne szkody (ryzyka bezpieczeństwa) oraz podatności na ataki (ryzyka związane z bezpieczeństwem) powinny być unikanie i rozwiązywane przez cały cykl życia systemów SI, aby zapewnić bezpieczeństwo ludzi, środowiska i ekosystemów.

— Międzynarodowe wytyczne dotyczące SI

Innymi słowy, systemy SI muszą być rygorystycznie testowane, monitorowane i wyposażone w zabezpieczenia awaryjne, aby zminimalizować ryzyko awarii. Nadmierne poleganie na SI jest również ryzykowne – jeśli ludzie bezkrytycznie zaufają automatycznym decyzjom, mogą nie zareagować na czas, gdy coś pójdzie nie tak.

Zapewnienie nadzoru ludzkiego jest zatem niezbędne. W zastosowaniach o wysokim ryzyku (np. w opiece zdrowotnej czy transporcie) ostateczne decyzje powinny pozostawać w gestii człowieka. Utrzymanie bezpieczeństwa i niezawodności SI to ciągłe wyzwanie, wymagające starannego projektowania i kultury odpowiedzialności wśród twórców SI.

Błędy bezpieczeństwa i niezamierzone szkody w SI

Utrata miejsc pracy i zakłócenia gospodarcze

Transformacyjny wpływ SI na gospodarkę ma dwie strony. Z jednej strony SI może zwiększać produktywność i tworzyć zupełnie nowe branże; z drugiej niesie ryzyko zastąpienia milionów pracowników przez automatyzację.

Wiele miejsc pracy – zwłaszcza tych związanych z rutynowymi, powtarzalnymi zadaniami lub łatwą do analizy danymi – jest podatnych na przejęcie przez algorytmy SI i roboty.

Choć gospodarka może też tworzyć nowe role (potencjalnie więcej niż tych utraconych w dłuższej perspektywie), przejście będzie bolesne dla wielu osób. Nowe miejsca pracy często wymagają innych, bardziej zaawansowanych umiejętności lub koncentrują się w określonych ośrodkach technologicznych, co oznacza, że wielu zwolnionych pracowników może mieć trudności ze znalezieniem nowego zatrudnienia.

Ten niedopasowanie między umiejętnościami pracowników a wymaganiami nowych ról napędzanych przez SI może prowadzić do wyższego bezrobocia i nierówności, jeśli nie zostanie rozwiązany. Politycy i badacze ostrzegają, że szybki rozwój SI może wywołać „zakłócenia na rynku pracy i nierówności władzy ekonomicznej” na skalę systemową.

Bez proaktywnych działań (takich jak programy przekwalifikowania, edukacja w zakresie umiejętności SI i sieci bezpieczeństwa społecznego) SI może pogłębić luki społeczno-ekonomiczne, tworząc gospodarkę napędzaną przez SI, w której korzyści czerpią głównie właściciele technologii.

Przygotowanie siły roboczej na wpływ SI jest kluczowe, aby zapewnić szerokie dzielenie się korzyściami automatyzacji i zapobiec społecznej destabilizacji spowodowanej masową utratą miejsc pracy.

Utrata miejsc pracy i zakłócenia gospodarcze w SI

Przestępcze wykorzystanie, oszustwa i zagrożenia bezpieczeństwa

SI jest potężnym narzędziem, które może być wykorzystywane zarówno do celów szlachetnych, jak i złych. Cyberprzestępcy i inni złośliwi aktorzy już wykorzystują SI do wzmacniania swoich ataków.

Na przykład SI może generować wysoce spersonalizowane wiadomości phishingowe lub wiadomości głosowe (poprzez klonowanie czyjegoś głosu), aby oszukać ludzi i wyłudzić poufne informacje lub pieniądze. Może też automatyzować włamania, szybko wykrywając luki w oprogramowaniu, lub tworzyć złośliwe oprogramowanie, które adaptuje się, by unikać wykrycia.

Złośliwi aktorzy mogą wykorzystywać SI do masowych kampanii dezinformacyjnych, oszustw i wyłudzeń.

— Raport zlecony przez rząd Wielkiej Brytanii

Center for AI Safety wskazuje na złośliwe wykorzystanie SI jako kluczowe zagrożenie, zauważając scenariusze, w których systemy SI są wykorzystywane przez przestępców do masowych oszustw i cyberataków.

Szybkość, skala i zaawansowanie, jakie oferuje SI, mogą przytłoczyć tradycyjne metody obrony – wyobraźmy sobie tysiące generowanych przez SI oszukańczych telefonów lub filmów deepfake atakujących bezpieczeństwo firmy w ciągu jednego dnia.

W miarę jak narzędzia SI stają się bardziej dostępne, bariera wejścia dla tych działań maleje, co może prowadzić do wzrostu przestępczości wspomaganej SI.

To wymaga nowych podejść do cyberbezpieczeństwa i egzekwowania prawa, takich jak systemy SI potrafiące wykrywać deepfake lub anomalne zachowania oraz aktualizacji ram prawnych, które pozwolą pociągać sprawców do odpowiedzialności. W istocie musimy przewidzieć, że każda zdolność, którą SI daje dobroczyńcom, może być równie dobrze wykorzystana przez przestępców – i odpowiednio się przygotować.

Przestępcze wykorzystanie, oszustwa i zagrożenia bezpieczeństwa w SI

Militaryzacja i autonomiczne bronie

Być może najbardziej przerażające ryzyko SI pojawia się w kontekście wojny i bezpieczeństwa narodowego. SI jest szybko integrowana z systemami wojskowymi, co rodzi perspektywę autonomicznych broni („robotów zabójców”) i decyzji podejmowanych przez SI w walce.

Te technologie mogą reagować szybciej niż człowiek, ale odebranie kontroli ludzkiej nad użyciem siły śmiercionośnej niesie ze sobą ogromne niebezpieczeństwa. Istnieje ryzyko, że broń sterowana przez SI wybierze niewłaściwy cel lub eskaluje konflikty w nieprzewidziany sposób.

Jeśli państwa zaczną wyścig zbrojeń z inteligentną bronią, może to wywołać destabilizującą rywalizację. Ponadto SI może być wykorzystywana w cyberwojnie do autonomicznych ataków na infrastrukturę krytyczną lub szerzenia propagandy, zacierając granicę między pokojem a konfliktem.

Rozwój SI w wojsku, jeśli skoncentrowany w rękach nielicznych, może być narzucony ludziom bez ich zgody na sposób użycia, podważając globalne bezpieczeństwo i etykę.

— Organizacja Narodów Zjednoczonych

Systemy autonomicznych broni stawiają też prawne i moralne dylematy – kto ponosi odpowiedzialność, jeśli dron SI omyłkowo zabije cywilów? Jak takie systemy przestrzegają międzynarodowego prawa humanitarnego?

Te nierozwiązane pytania prowadzą do wezwań o zakazy lub ścisłą regulację niektórych broni zasilanych SI. Zapewnienie nadzoru ludzkiego nad SI, która może podejmować decyzje o życiu i śmierci, jest powszechnie uważane za kluczowe. Bez tego ryzykujemy nie tylko tragiczne błędy na polu bitwy, ale też erozję ludzkiej odpowiedzialności w wojnie.

Militaryzacja i autonomiczne bronie w SI

Brak przejrzystości i odpowiedzialności

Większość zaawansowanych systemów SI działa dziś jako „czarne skrzynki” – ich wewnętrzna logika jest często nieprzejrzysta nawet dla ich twórców. Ten brak przejrzystości stwarza ryzyko, że decyzje SI nie mogą być wyjaśnione ani zakwestionowane, co jest poważnym problemem w dziedzinach takich jak wymiar sprawiedliwości, finanse czy opieka zdrowotna, gdzie wyjaśnialność może być wymogiem prawnym lub etycznym.

Jeśli SI odmówi komuś pożyczki, zdiagnozuje chorobę lub zdecyduje o warunkowym zwolnieniu z więzienia, naturalnie chcemy wiedzieć dlaczego. W przypadku niektórych modeli SI (zwłaszcza złożonych sieci neuronowych) podanie jasnego uzasadnienia jest trudne.

Brak przejrzystości może również uniemożliwić skuteczne kwestionowanie decyzji opartych na wynikach systemów SI, co może naruszać prawo do sprawiedliwego procesu i skutecznego środka prawnego.

— UNESCO

Innymi słowy, jeśli ani użytkownicy, ani regulatorzy nie mogą zrozumieć, jak SI podejmuje decyzje, staje się prawie niemożliwe pociągnięcie kogokolwiek do odpowiedzialności za błędy lub uprzedzenia.

Aby temu przeciwdziałać, eksperci zalecają techniki wyjaśnialnej SI, rygorystyczne audyty oraz wymogi regulacyjne, by decyzje SI były możliwe do powiązania z ludzką odpowiedzialnością.

Globalne wytyczne etyczne podkreślają, że „zawsze powinno być możliwe przypisanie odpowiedzialności etycznej i prawnej” za zachowanie systemów SI konkretnej osobie lub organizacji. Ludzie muszą pozostać ostatecznie odpowiedzialni, a SI powinna wspierać, a nie zastępować ludzkie decyzje w wrażliwych sprawach. W przeciwnym razie ryzykujemy świat, w którym ważne decyzje podejmują nieprzeniknione maszyny, co jest przepisem na niesprawiedliwość.

Brak przejrzystości i odpowiedzialności w użyciu SI w miejscu pracy

Koncentracja władzy i nierówności

Rewolucja SI nie przebiega równomiernie na całym świecie – niewielka liczba korporacji i państw dominuje w rozwoju zaawansowanej SI, co niesie własne ryzyka.

Nowoczesne modele SI wymagają ogromnych zasobów danych, talentów i mocy obliczeniowej, które obecnie posiadają tylko giganci technologiczni (oraz dobrze finansowane rządy).

Doprowadziło to do wysoce skoncentrowanego, jednolitego, globalnie zintegrowanego łańcucha dostaw, który faworyzuje kilka firm i państw.

— Światowe Forum Ekonomiczne

Taka koncentracja siły SI może prowadzić do monopolistycznej kontroli nad technologiami SI, ograniczając konkurencję i wybór konsumentów. Powoduje też ryzyko, że priorytety tych kilku firm lub państw będą kształtować SI w sposób nie uwzględniający szerszego interesu publicznego.

Ta nierównowaga może pogłębiać globalne nierówności: bogate państwa i firmy wyprzedzają innych, wykorzystując SI, podczas gdy biedniejsze społeczności nie mają dostępu do najnowszych narzędzi i cierpią z powodu utraty miejsc pracy bez korzyści z SI.

Dodatkowo skoncentrowany przemysł SI może hamować innowacje (jeśli nowi gracze nie mogą konkurować z zasobami liderów) oraz stwarzać zagrożenia bezpieczeństwa (jeśli krytyczna infrastruktura SI jest kontrolowana przez nieliczne podmioty, staje się pojedynczym punktem awarii lub manipulacji).

Radzenie sobie z tym ryzykiem wymaga międzynarodowej współpracy i być może nowych regulacji demokratyzujących rozwój SI – na przykład wspierania otwartych badań, zapewnienia uczciwego dostępu do danych i mocy obliczeniowej oraz tworzenia polityk (jak proponowana przez UE ustawa o SI) zapobiegających nadużyciom przez „strażników SI”. Bardziej inkluzywne środowisko SI pomogłoby zapewnić, że korzyści z SI są dzielone globalnie, a nie pogłębiają przepaść między posiadaczami technologii a resztą świata.

Koncentracja władzy i nierówności

Wpływ SI na środowisko

Często pomijanym aspektem ryzyk SI jest jej ślad środowiskowy. Rozwój SI, zwłaszcza trenowanie dużych modeli uczenia maszynowego, zużywa ogromne ilości energii elektrycznej i mocy obliczeniowej.

Centra danych wypełnione tysiącami energochłonnych serwerów są niezbędne do przetwarzania ogromnych ilości danych, na których uczą się systemy SI. Oznacza to, że SI pośrednio przyczynia się do emisji dwutlenku węgla i zmian klimatycznych.

Wraz ze wzrostem inwestycji w SI emisje związane z działaniem modeli SI mają gwałtownie rosnąć – raport przewiduje, że największe systemy SI mogą łącznie emitować ponad 100 milionów ton CO₂ rocznie, co stanowi poważne obciążenie dla infrastruktury energetycznej.

Dla porównania, centra danych zasilające SI zwiększają zużycie energii „cztery razy szybciej niż ogólny wzrost zużycia energii elektrycznej”.

Poza emisjami dwutlenku węgla SI zużywa też dużo wody do chłodzenia i generuje odpady elektroniczne w wyniku szybkich modernizacji sprzętu. Jeśli nie zostanie to opanowane, wpływ SI na środowisko może podważyć globalne wysiłki na rzecz zrównoważonego rozwoju.

To ryzyko wymaga uczynienia SI bardziej energooszczędną i korzystania z czystszych źródeł energii. Naukowcy opracowują zielone techniki SI, aby zmniejszyć zużycie energii, a niektóre firmy zobowiązały się do kompensowania emisji SI. Mimo to pozostaje to pilnym problemem, ponieważ gwałtowny rozwój SI może mieć wysoką cenę środowiskową. Równoważenie postępu technologicznego z odpowiedzialnością ekologiczną to kolejne wyzwanie, które społeczeństwo musi podjąć, integrując SI na szeroką skalę.

Wpływ SI na środowisko

Ryzyka egzystencjalne i długoterminowe

Poza bezpośrednimi ryzykami niektórzy eksperci ostrzegają przed bardziej spekulatywnymi, długoterminowymi zagrożeniami związanymi z SI – w tym możliwością powstania zaawansowanej SI, która wymknie się spod kontroli człowieka. Choć dzisiejsze systemy SI są wąsko wyspecjalizowane, badacze aktywnie pracują nad bardziej ogólną SI, która mogłaby potencjalnie przewyższyć ludzi w wielu dziedzinach.

To rodzi skomplikowane pytania: jeśli SI stanie się znacznie bardziej inteligentna lub autonomiczna, czy może działać w sposób zagrażający istnieniu ludzkości? Choć brzmi to jak science fiction, znane postacie ze środowiska technologicznego wyraziły obawy o scenariusze „buntowniczej SI”, a rządy traktują tę dyskusję poważnie.

Eksperci mają różne opinie na temat ryzyka utraty kontroli nad SI w sposób mogący prowadzić do katastrofalnych skutków.

— Międzynarodowy Raport Bezpieczeństwa SI

Konsensus naukowy nie jest jednolity – niektórzy uważają, że superinteligentna SI jest odległa o dekady lub można ją utrzymać w zgodzie z wartościami ludzkimi, inni widzą niewielkie, ale realne ryzyko katastrofy.

W istocie uznaje się, że ryzyko egzystencjalne związane z SI, choć odległe, nie może być całkowicie wykluczone. Taki scenariusz mógłby obejmować SI realizującą swoje cele kosztem dobrostanu ludzi (klasyczny przykład to SI, która, jeśli zostanie źle zaprogramowana, podejmuje szkodliwe działania na dużą skalę z powodu braku zdrowego rozsądku lub ograniczeń moralnych).

Choć żadna dzisiejsza SI nie ma takiej autonomii, tempo rozwoju SI jest szybkie i nieprzewidywalne, co samo w sobie stanowi czynnik ryzyka.

Przygotowanie na długoterminowe ryzyka oznacza inwestowanie w badania nad zgodnością SI, ustanawianie międzynarodowych porozumień dotyczących badań nad SI o wysokim ryzyku (podobnie jak traktaty o broni jądrowej czy biologicznej) oraz utrzymanie nadzoru ludzkiego wraz z rozwojem zdolności SI.

Przyszłość SI niesie ogromne obietnice, ale też niepewność – i rozwaga nakazuje uwzględniać nawet niskoprawdopodobne, ale wysokoskutkowe ryzyka w planowaniu długoterminowym.

Ryzyka egzystencjalne i długoterminowe w SI

Odpowiedzialne kształtowanie przyszłości SI

SI często porównuje się do potężnego silnika, który może napędzać ludzkość do przodu – ale bez hamulców i kierownicy ten silnik może zboczyć z kursu. Jak widzieliśmy, ryzyka związane z używaniem SI są wielowymiarowe: od bezpośrednich problemów, takich jak stronnicze algorytmy, fałszywe wiadomości, naruszenia prywatności i zmiany na rynku pracy, po szersze wyzwania społeczne, takie jak zagrożenia bezpieczeństwa, decyzje „czarnych skrzynek”, monopole Big Tech, obciążenie środowiska, a nawet odległa wizja utraty kontroli nad superinteligentną SI.

Rządy, organizacje międzynarodowe, liderzy branży i badacze coraz częściej współpracują, aby sprostać tym wyzwaniom – na przykład poprzez ramy takie jak:

• Amerykańska ramy zarządzania ryzykiem SI NIST (dla poprawy zaufania do SI)
• Globalne rekomendacje etyczne UNESCO dotyczące SI
• Unijna ustawa o SI

Takie działania mają na celu maksymalizację korzyści SI przy jednoczesnym minimalizowaniu jej negatywnych skutków, zapewniając, że SI służy ludzkości, a nie odwrotnie.