Czy sztuczna inteligencja jest niebezpieczna?

Sztuczna inteligencja (SI) odnosi się do systemów komputerowych naśladujących ludzką inteligencję – na przykład programów potrafiących rozpoznawać obrazy, rozumieć język czy podejmować decyzje. W codziennym życiu SI napędza narzędzia takie jak asystenci głosowi w smartfonach, systemy rekomendacji w mediach społecznościowych, a nawet zaawansowane chatboty tworzące teksty.

SI ma potencjał znacznego usprawnienia wielu dziedzin, ale budzi też wiele obaw.

Zatem, czy SI jest niebezpieczna? Ten artykuł przedstawi obie strony: rzeczywiste korzyści, jakie niesie SI, oraz zagrożenia, na które zwracają uwagę eksperci.

Rzeczywiste korzyści SI

Obraz: Przyjazne przedstawienie robotów i człowieka współpracujących symbolizuje wsparcie SI dla ludzi. SI jest już zintegrowana z wieloma użytecznymi aplikacjami.

Na przykład UNESCO zauważa, że SI „stworzyła wiele możliwości” na całym świecie – od szybszej diagnostyki medycznej po lepszą łączność w mediach społecznościowych oraz automatyzację żmudnych zadań.

Unia Europejska podobnie podkreśla, że „godna zaufania SI może przynieść wiele korzyści”, takich jak lepsza opieka zdrowotna, bezpieczniejszy transport oraz bardziej efektywna przemysł i wykorzystanie energii. W medycynie Światowa Organizacja Zdrowia informuje, że SI jest wykorzystywana do diagnozowania, opracowywania leków i reagowania na epidemie, zachęcając kraje do promowania tych innowacji dla wszystkich.

Ekonomiści porównują szybkie rozpowszechnianie SI do wcześniejszych rewolucji technologicznych.

Na przykład rząd USA podkreśla, że „SI ma niezwykły potencjał zarówno obietnic, jak i zagrożeń”, co oznacza, że powinniśmy wykorzystać jej moc do rozwiązywania problemów takich jak zmiany klimatu czy choroby, jednocześnie mając na uwadze ryzyka.

Kluczowe korzyści SI to:

• Poprawa opieki zdrowotnej: Systemy SI potrafią szybciej niż ludzie analizować zdjęcia rentgenowskie, rezonanse magnetyczne i dane pacjentów, wspierając wczesne wykrywanie chorób i spersonalizowane leczenie. Na przykład obrazowanie wspomagane przez SI może wykryć guzy, które lekarze mogliby przeoczyć.
• Większa efektywność: Automatyzacja procesów w fabrykach, biurach i usługach zwiększa wydajność. Jak zauważa UE, automatyzacja napędzana SI prowadzi do „bardziej efektywnej produkcji” i nawet inteligentniejszych sieci energetycznych.
  Roboty i oprogramowanie wykonują powtarzalne zadania, pozwalając ludziom skupić się na pracy twórczej lub złożonej.
• Bezpieczniejszy transport i usługi: Technologie autonomicznych pojazdów i SI zarządzającej ruchem mają na celu zmniejszenie liczby wypadków i korków. Inteligentna SI może też usprawniać systemy ostrzegania przed katastrofami i optymalizować logistykę, czyniąc podróże i transport bezpieczniejszymi.
• Wsparcie naukowe i środowiskowe: Naukowcy wykorzystują SI do analizowania modeli klimatycznych i danych genetycznych. Pomaga to w walce z poważnymi problemami, takimi jak zmiany klimatu: UNESCO informuje, że nawet niewielkie zmiany w projektowaniu SI mogą znacznie obniżyć jej zużycie energii, czyniąc ją bardziej ekologiczną jako narzędzie klimatyczne.
• Edukacja i dostępność: Tutorzy oparte na SI mogą dostosowywać naukę do indywidualnych potrzeb ucznia, a narzędzia rozpoznawania głosu czy tłumaczenia wspierają osoby z niepełnosprawnościami. Britannica zauważa, że SI „pomaga grupom marginalizowanym, oferując dostępność” (np. asystenci czytania dla osób niedowidzących).

Te przykłady pokazują, że SI to nie tylko science fiction – już dziś przynosi realne korzyści.

Potencjalne ryzyka i zagrożenia SI

Obraz: Sztuka uliczna z napisem „Robot” ostrzega przed nieznanymi skutkami SI. Pomimo obietnic, wielu ekspertów ostrzega, że SI może być niebezpieczna, jeśli jest niewłaściwie używana lub pozostawiona bez nadzoru. Głównym problemem jest stronniczość i dyskryminacja. Ponieważ SI uczy się na podstawie istniejących danych, może przejmować ludzkie uprzedzenia.

UNESCO ostrzega, że bez ścisłej etyki SI „ryzykuje powielanie uprzedzeń i dyskryminacji ze świata rzeczywistego, pogłębiając podziały i zagrażając podstawowym prawom i wolnościom człowieka”. Badania wykazały, że systemy rozpoznawania twarzy często błędnie identyfikują kobiety lub osoby o innym kolorze skóry, a algorytmy rekrutacyjne mogą faworyzować określone płcie.

Britannica również zauważa, że SI może „zaszkodzić mniejszościom rasowym, powielając i nasilając rasizm”.

Inne zagrożenia to:

• Prywatność i nadzór: Systemy SI często wymagają ogromnych ilości danych osobowych (posty w mediach społecznościowych, dokumentacja medyczna itp.). To zwiększa ryzyko nadużyć. Jeśli rządy lub firmy wykorzystają SI do analizy danych bez zgody, może to prowadzić do inwazyjnego nadzoru.
  
  Britannica ostrzega przed „niebezpiecznymi zagrożeniami dla prywatności” wynikającymi z SI. Na przykład kontrowersyjne wykorzystanie SI zwane systemem punktacji społecznej – gdzie obywatele są oceniani przez algorytmy – zostało zakazane przez UE jako „nieakceptowalna” praktyka.
  Nawet znane chatboty wywołały obawy: w 2023 roku Włochy tymczasowo zablokowały ChatGPT z powodu problemów z ochroną danych.

• Dezinformacja i deepfake’i: SI potrafi generować realistyczne fałszywe teksty, obrazy lub filmy. Ułatwia to tworzenie deepfake’ów – fałszywych filmów z celebrytami lub fałszywych wiadomości.
  
  Britannica wskazuje, że SI może rozpowszechniać „spolityzowaną, a nawet niebezpieczną dezinformację”. Eksperci ostrzegają, że takie fałszywki mogą być wykorzystywane do manipulowania wyborami lub opinią publiczną.
  
  W jednym przypadku wiralowe stały się obrazy światowych przywódców z fałszywymi nagłówkami wiadomości, zanim zostały zdementowane. Naukowcy zauważają, że bez regulacji dezinformacja napędzana SI może się nasilać (np. fałszywe przemówienia czy zmanipulowane zdjęcia, których obecne prawo nie jest w stanie skutecznie kontrolować).

• Utrata miejsc pracy i zakłócenia gospodarcze: Automatyzując zadania, SI zmieni rynek pracy. Międzynarodowy Fundusz Walutowy informuje, że około 40% miejsc pracy na świecie (i 60% w krajach rozwiniętych) jest „narażonych” na automatyzację przez SI. Dotyczy to nie tylko pracy w fabrykach, ale także zawodów klasy średniej, takich jak księgowość czy pisanie.
  Choć SI może zwiększyć produktywność (co w dłuższej perspektywie podniesie płace), wielu pracowników może potrzebować przekwalifikowania lub doświadczyć krótkoterminowego bezrobocia.
  Liderzy technologiczni przyznają, że to poważna obawa: nawet CEO Microsoftu stwierdził, że SI może nagle zastąpić wykwalifikowanych specjalistów.

• Bezpieczeństwo i złośliwe wykorzystanie: Jak każda technologia, SI może być używana do szkodliwych celów. Cyberprzestępcy już wykorzystują SI do tworzenia przekonujących wiadomości phishingowych lub skanowania systemów pod kątem luk.
  
  Eksperci wojskowi obawiają się autonomicznych broni: dronów lub robotów wybierających cele bez zgody człowieka.
  Najnowszy raport badaczy SI wyraźnie ostrzega, że brakuje instytucji zdolnych powstrzymać „nieodpowiedzialnych... aktorów, którzy mogą wdrażać lub rozwijać zdolności w niebezpieczny sposób”, takich jak autonomiczne systemy ataku.
  
  Innymi słowy, system SI mający kontrolę fizyczną (np. broń) może być szczególnie niebezpieczny, jeśli wymknie się spod kontroli lub zostanie zaprogramowany złośliwie.

• Utrata kontroli nad SI: Niektórzy myśliciele wskazują, że jeśli SI stanie się znacznie potężniejsza niż obecnie, może działać w nieprzewidywalny sposób. Obecna SI nie jest świadoma ani samoświadoma, ale przyszła ogólna SI (AGI) mogłaby realizować cele niezgodne z wartościami ludzkimi.
  
  Wiodący naukowcy SI niedawno ostrzegli, że „wysoce zaawansowane systemy ogólnej SI” mogą pojawić się w niedalekiej przyszłości, jeśli się do tego nie przygotujemy.
  
  Noblista Geoffrey Hinton i inni eksperci opisali nawet rosnące ryzyko, że SI może zaszkodzić ludzkości, jeśli zaawansowana SI nie będzie zgodna z naszymi potrzebami. Choć to ryzyko jest niepewne, skłoniło do głośnych apeli o ostrożność.

• Wpływ na środowisko i zużycie energii: Trenowanie i uruchamianie dużych modeli SI pochłania dużo energii elektrycznej. UNESCO informuje, że roczne zużycie energii przez generatywną SI dorównuje już małemu krajowi afrykańskiemu – i szybko rośnie.
  
  To może pogłębiać zmiany klimatu, jeśli nie zastosujemy bardziej ekologicznych metod.
  
  Dobrą wiadomością jest to, że naukowcy znajdują rozwiązania: jedno z badań UNESCO pokazuje, że stosowanie mniejszych, wydajnych modeli do konkretnych zadań może zmniejszyć zużycie energii przez SI o 90% bez utraty dokładności.

Podsumowując, rzeczywiste zagrożenia SI dziś wynikają głównie z tego, jak ludzie ją wykorzystują. Jeśli SI jest starannie zarządzana, jej korzyści (zdrowie, wygoda, bezpieczeństwo) są ogromne.

Jednak pozostawiona bez nadzoru, SI może sprzyjać uprzedzeniom, przestępczości i wypadkom.

Wspólnym mianownikiem tych zagrożeń jest brak kontroli lub nadzoru: narzędzia SI są potężne i szybkie, więc błędy lub nadużycia mogą mieć szerokie skutki, jeśli nie podejmiemy działań.

Co mówią eksperci i urzędnicy

Wobec tych problemów wielu liderów i badaczy zabrało głos. W ostatnich latach wykształcił się szeroki konsensus ekspertów SI.

W 2024 roku grupa 25 czołowych naukowców SI (z Oksfordu, Berkeley, laureatów Nagrody Turinga itp.) opublikowała wspólne oświadczenie wzywające do pilnych działań.

Ostrzegli rządy świata, by przygotowały się już teraz: „jeśli zlekceważymy ryzyka SI, konsekwencje mogą być katastrofalne” i zaapelowali o finansowanie badań nad bezpieczeństwem SI oraz tworzenie organów regulacyjnych nadzorujących potężną SI.

Podkreślili, że rozwój SI przebiegał dotąd „z bezpieczeństwem jako sprawą drugorzędną” i obecnie brakuje instytucji zdolnych powstrzymać niekontrolowane zastosowania.

Liderzy branży technologicznej podzielają tę ostrożność. CEO OpenAI, Sam Altman – którego firma stworzyła ChatGPT – powiedział The New York Times, że budowa zaawansowanej SI to jak „Projekt Manhattan” ery cyfrowej.

Przyznał, że te same narzędzia, które potrafią pisać eseje czy kod, mogą też powodować „nadużycia, poważne wypadki i zakłócenia społeczne”, jeśli nie będą odpowiednio kontrolowane.

Pod koniec 2023 roku ponad 1000 specjalistów od SI (w tym Elon Musk, współzałożyciel Apple Steve Wozniak i wielu badaczy SI) podpisało otwarty list wzywający do wstrzymania treningu kolejnej generacji modeli SI.

Ostrzegali, że uczestniczymy w „wyścigu wymykającym się spod kontroli” w budowie coraz potężniejszej SI, której nawet twórcy „nie potrafią zrozumieć, przewidzieć ani skutecznie kontrolować”.

Na publicznych forach eksperci podkreślają konkretne zagrożenia. CEO Google DeepMind, Demis Hassabis, argumentuje, że największym zagrożeniem nie jest bezrobocie, lecz niewłaściwe wykorzystanie: cyberprzestępca lub państwo-łotr wykorzystujące SI do szkodzenia społeczeństwu.

Wskazał, że bardzo szybko SI może dorównać lub przewyższyć ludzką inteligencję, a „zły aktor może wykorzystać te same technologie do szkodliwych celów”.

Innymi słowy, nawet jeśli poradzimy sobie z utratą miejsc pracy, musimy zapobiec, by narzędzia SI nie trafiły w niepowołane ręce.

Rządy i organizacje międzynarodowe biorą to pod uwagę. Biały Dom (USA) wydał w 2023 roku zarządzenie wykonawcze stwierdzające, że SI „ma niezwykły potencjał zarówno obietnic, jak i zagrożeń” i wzywające do „odpowiedzialnego korzystania z SI” poprzez społeczne wysiłki na rzecz ograniczenia jej poważnych ryzyk.

Unia Europejska przyjęła pierwszy na świecie Akt o SI (obowiązujący od 2024 roku), zakazujący niebezpiecznych praktyk, takich jak rządowa punktacja społeczna, oraz wymagający ścisłych testów dla SI wysokiego ryzyka (w ochronie zdrowia, wymiarze sprawiedliwości itp.).

UNESCO (agencja ONZ ds. edukacji i kultury) opublikowało globalne rekomendacje etyczne dla SI, nawołując do sprawiedliwości, przejrzystości i ochrony praw człowieka.

Nawet organizacje zajmujące się polityką naukową, takie jak NIST (amerykański Narodowy Instytut Standardów), opracowały Ramowy system zarządzania ryzykiem SI, pomagający firmom tworzyć godną zaufania SI.

Wszystkie te głosy zgadzają się co do jednego: SI nie zatrzyma się sama. Musimy wprowadzić zabezpieczenia. Obejmuje to techniczne rozwiązania (audyty uprzedzeń, testy bezpieczeństwa) oraz nowe przepisy i organy nadzoru.

Na przykład ustawodawcy na całym świecie rozważają powołanie rad ds. bezpieczeństwa SI, podobnych do tych dla technologii jądrowej.

Celem nie jest zatrzymanie innowacji, lecz zapewnienie, że będzie się odbywać pod ścisłymi wytycznymi.

Zabezpieczenia i regulacje

Na szczęście wiele rozwiązań jest już wdrażanych. Kluczową ideą jest „bezpieczeństwo SI zaprojektowane od podstaw”. Firmy coraz częściej wprowadzają zasady etyczne w procesie tworzenia SI.

Na przykład laboratoria SI testują modele pod kątem uprzedzeń przed ich udostępnieniem i dodają filtry treści, aby zapobiegać generowaniu nieodpowiednich lub fałszywych wyników. Rządy i instytucje kodifikują te praktyki.

Akt o SI UE na przykład zakazuje niektórych niebezpiecznych zastosowań i klasyfikuje inne jako „wysokiego ryzyka” (podlegające audytom).

Podobnie ramy etyczne UNESCO dla SI zalecają działania takie jak audyty sprawiedliwości, zabezpieczenia cybernetyczne i dostępne procedury składania skarg.

Na poziomie praktycznym organizacje normalizacyjne publikują wytyczne.

Wspomniany wcześniej amerykański system NIST oferuje dobrowolne standardy dla firm oceniających i ograniczających ryzyko SI.

Na poziomie międzynarodowym grupy takie jak OECD i ONZ pracują nad zasadami SI (wiele krajów je podpisało).

Nawet firmy i uczelnie tworzą instytuty i koalicje zajmujące się badaniem długoterminowych zagrożeń SI.

Ponadto wiele obecnych regulacji dotyczy konkretnych szkód.

Na przykład przepisy ochrony konsumentów są stosowane wobec SI.

Wewnętrzne dokumenty Meta ujawniły, że chatboty SI flirtowały z dziećmi, co wywołało oburzenie regulatorów (narzędzie Meta nie było dozwolone na mocy istniejących przepisów ochrony dzieci).

Władze starają się aktualizować przepisy dotyczące mowy nienawiści, praw autorskich i prywatności, aby objąć nimi treści generowane przez SI.

Jak zauważył jeden z ekspertów z Nowej Zelandii, wiele obecnych przepisów „nie było projektowanych z myślą o generatywnej SI”, więc ustawodawcy muszą nadrobić zaległości.

Ogólny trend jest jasny: SI traktuje się podobnie jak inne technologie o podwójnym zastosowaniu.

Tak jak mamy przepisy ruchu drogowego dla samochodów czy normy bezpieczeństwa dla chemikaliów, społeczeństwo zaczyna tworzyć ograniczenia dla SI.

Należą do nich: ciągłe badania nad ryzykiem SI, współpraca publiczno-prywatna w zakresie bezpieczeństwa, kampanie edukacyjne o deepfake’ach, a nawet referenda pytające obywateli, ile autonomii chcą przyznać maszynom.

>>>Dowiedz się więcej:

Czy AI zastąpi człowieka?

Czy sztuczna inteligencja myśli jak ludzie?

Zatem, czy SI jest niebezpieczna? Odpowiedź jest złożona. SI nie jest z natury zła – to narzędzie stworzone przez ludzi.

W swoich licznych praktycznych zastosowaniach już przyniosła ogromne korzyści medycynie, edukacji, przemyśle i innym dziedzinom (co podkreślają organizacje takie jak UNESCO i UE).

Jednocześnie niemal wszyscy zgadzają się, że SI może być niebezpieczna jeśli jej moc zostanie niewłaściwie wykorzystana lub pozostawiona bez nadzoru.

Najczęstsze obawy dotyczą naruszeń prywatności, uprzedzeń, dezinformacji, zawirowań na rynku pracy oraz hipotetycznego ryzyka niekontrolowanej superinteligencji.

Młodzi ludzie uczący się o SI powinni znać obie strony. Warto być świadomym realnych zagrożeń: na przykład nigdy nie ufać SI bezkrytycznie ani nie udostępniać prywatnych danych bez ostrożności.

Jednocześnie ważne jest, by dostrzegać, że eksperci i rządy aktywnie pracują nad uczynieniem SI bezpieczniejszą – poprzez tworzenie przepisów (jak Akt o SI UE), wytycznych (jak rekomendacje etyczne UNESCO) oraz technologii (jak wykrywanie uprzedzeń), które pozwalają wcześnie wychwycić problemy.

Krótko mówiąc, SI jest jak każda potężna technologia: może przynosić wielkie korzyści, gdy jest używana odpowiedzialnie, i wyrządzać szkody, jeśli jest niewłaściwie wykorzystana.

Konsensus wśród naukowców i decydentów jest taki, że nie powinniśmy siać paniki ani ignorować SI, lecz pozostawać poinformowani i aktywnie uczestniczyć w kształtowaniu jej przyszłości.

Przy odpowiednich „ograniczeniach” – etycznym rozwoju SI, solidnych regulacjach i świadomości społecznej – możemy skierować SI na bezpieczną ścieżkę i zapewnić, że przyniesie korzyści ludzkości, nie stając się zagrożeniem.