Riskerna med att använda AI

Artificiell intelligens (AI) är nu vävd in i allt från smartphoneassistenter och sociala mediers flöden till sjukvård och transporter. Dessa teknologier medför oöverträffade fördelar, men de medför också betydande risker och utmaningar.

I denna artikel utforskar vi tillsammans med INVIAI riskerna med att använda AI inom alla områden och typer av AI – från chattbotar och algoritmer till robotar – baserat på insikter från officiella och internationella källor.

Fördomar och diskriminering i AI-system

En stor risk med AI är förstärkningen av fördomar och orättvis diskriminering. AI-modeller lär sig från data som kan spegla historiska fördomar eller ojämlikheter; som ett resultat kan ett AI-system behandla människor olika baserat på ras, kön eller andra egenskaper på sätt som upprätthåller orättvisor.

Felfungerande AI med allmänt syfte kan orsaka skada genom partiska beslut med avseende på skyddade egenskaper som ras, kön, kultur, ålder och funktionsnedsättning.

— Internationell AI-säkerhetsrapport

Globala organ som UNESCO varnar för att utan rättviseåtgärder riskerar AI att "reproducera verkliga fördomar och diskriminering, driva på splittringar och hota grundläggande mänskliga rättigheter och friheter". Att säkerställa att AI-system tränas på mångsidig, representativ data och granskas för fördomar är avgörande för att förhindra automatiserad diskriminering.

Fördomar och diskriminering i AI-system

Faran med desinformation och deepfakes

AIs förmåga att generera hyperrealistisk text, bilder och videor har väckt rädsla för en flodvåg av desinformation. Generativ AI kan producera övertygande falska nyhetsartiklar, fejkade bilder eller deepfake-videor som är svåra att skilja från verkligheten.

Faktum är att desinformation och felinformation som drivs av AI utgör en av "de största någonsin utmaningarna för den demokratiska processen" – särskilt med miljarder människor som ska rösta i kommande val. Syntetiska medier som deepfake-videor och AI-klonade röster kan användas som vapen för att sprida propaganda, utge sig för att vara offentliga personer eller begå bedrägerier.

Tjänstemän varnar för att illvilliga aktörer kan utnyttja AI för storskaliga desinformationskampanjer, vilket gör det lättare att översvämma sociala nätverk med falskt innehåll och så kaos. Risken är en cynisk informationsmiljö där medborgare inte kan lita på vad de ser eller hör, vilket undergräver det offentliga samtalet och demokratin.

Faran med desinformation och deepfakes i AI

Hot mot integritet och massövervakning

Den utbredda användningen av AI väcker allvarliga integritetsbekymmer. AI-system kräver ofta enorma mängder personlig data – från våra ansikten och röster till våra köpbeteenden och platsinformation – för att fungera effektivt. Utan starka skydd kan denna data missbrukas eller exploateras.

Till exempel kan ansiktsigenkänning och prediktiva algoritmer möjliggöra genomgripande övervakning, som spårar individers varje rörelse eller bedömer deras beteende utan samtycke.

Integritet är en rättighet som är avgörande för skyddet av mänsklig värdighet, autonomi och handlingsfrihet och måste respekteras under hela AI-systemets livscykel.

— Dataskyddsmyndigheter

Om AI-utvecklingen går snabbare än integritetsregler kan individer förlora kontrollen över sin egen information. Samhället måste säkerställa robust datastyrning, samtyckesmekanismer och integritetsbevarande tekniker så att AI-teknologier inte blir verktyg för okontrollerad övervakning.

Hot mot integritet och massövervakning

Säkerhetsmisslyckanden och oavsiktlig skada

Medan AI kan automatisera beslut och fysiska uppgifter med övermänsklig effektivitet, kan den också misslyckas på oförutsägbara sätt, vilket leder till verklig skada. Vi anförtros AI med allt fler säkerhetskritiska ansvarsområden – som att köra bilar, diagnostisera patienter eller hantera elnät – men dessa system är inte ofelbara.

Fel, bristfällig träningsdata eller oförutsedda situationer kan få AI att göra farliga misstag. En självkörande bils AI kan till exempel feltolka en fotgängare, eller en medicinsk AI kan rekommendera fel behandling med potentiellt dödliga konsekvenser.

Oönskade skador (säkerhetsrisker) samt sårbarheter för attacker (säkerhetsrisker) bör undvikas och hanteras under hela AI-systemets livscykel för att säkerställa mänsklig, miljömässig och ekosystemsäkerhet.

— Internationella AI-riktlinjer

Med andra ord måste AI-system testas noggrant, övervakas och byggas med säkerhetsmekanismer för att minimera risken för fel. Överdrivet förtroende för AI kan också vara riskabelt – om människor blint litar på automatiserade beslut kan de missa att ingripa i tid när något går fel.

Att säkerställa mänsklig övervakning är därför avgörande. Vid höginsatsanvändningar (som sjukvård eller transporter) bör slutgiltiga beslut förbli under mänsklig bedömning. Att upprätthålla säkerhet och tillförlitlighet i AI är en kontinuerlig utmaning som kräver noggrann design och en ansvarskultur från AI-utvecklare.

Säkerhetsmisslyckanden och oavsiktlig skada i AI

Arbetsförlust och ekonomisk störning

AIs omvälvande påverkan på ekonomin är ett tveeggat svärd. Å ena sidan kan AI öka produktiviteten och skapa helt nya industrier; å andra sidan utgör den en risk för att miljontals arbetstagare ersätts genom automatisering.

Många jobb – särskilt de som involverar rutinmässiga, repetitiva uppgifter eller lättanalyserad data – är sårbara för att tas över av AI-algoritmer och robotar.

Även om ekonomin kan skapa nya roller (möjligen fler jobb än de som försvinner på lång sikt), kommer övergången att bli smärtsam för många. De nya jobben kräver ofta andra, mer avancerade färdigheter eller är koncentrerade till vissa tekniknav, vilket innebär att många förlorade arbetstagare kan ha svårt att hitta ny fotfäste.

Denna obalans mellan de färdigheter arbetstagare har och de färdigheter nya AI-drivna roller kräver kan leda till högre arbetslöshet och ojämlikhet om den inte hanteras. Faktum är att beslutsfattare och forskare varnar för att snabb AI-utveckling kan medföra "störningar på arbetsmarknaden och ekonomiska maktobalanser" på systemnivå.

Utan proaktiva åtgärder (som omskolningsprogram, utbildning i AI-kompetenser och sociala skyddsnät) kan AI vidga socioekonomiska klyftor och skapa en AI-driven ekonomi där de som äger teknologin får de största fördelarna.

Att förbereda arbetskraften för AIs påverkan är avgörande för att säkerställa att automatiseringens fördelar delas brett och för att förhindra social oro från omfattande arbetsförlust.

Arbetsförlust och ekonomisk störning i AI

Kriminell missbruk, bedrägeri och säkerhetshot

AI är ett kraftfullt verktyg som lika gärna kan användas för illvilliga som för ädla syften. Cyberbrottslingar och andra illasinnade aktörer utnyttjar redan AI för att förbättra sina attacker.

Till exempel kan AI generera mycket personliga nätfiskemejl eller röstmeddelanden (genom att klona någons röst) för att lura människor att avslöja känslig information eller skicka pengar. Det kan också användas för att automatisera hacking genom att hitta mjukvarusårbarheter i stor skala eller utveckla skadlig programvara som anpassar sig för att undvika upptäckt.

Illvilliga aktörer kan använda AI för storskaliga desinformations- och påverkanskampanjer, bedrägerier och bluffar.

— Rapport beställd av brittiska regeringen

Center for AI Safety identifierar illvillig användning av AI som en nyckelfråga och noterar scenarier där AI-system används av brottslingar för att genomföra storskaliga bedrägerier och cyberattacker.

Den hastighet, skala och sofistikering som AI möjliggör kan överväldiga traditionella försvar – föreställ dig tusentals AI-genererade bluffsamtal eller deepfake-videor som riktas mot ett företags säkerhet på en enda dag.

Allt eftersom AI-verktyg blir mer tillgängliga sänks tröskeln för att utföra dessa illvilliga aktiviteter, vilket potentiellt leder till en ökning av AI-förstärkt brottslighet.

Detta kräver nya angreppssätt inom cybersäkerhet och brottsbekämpning, såsom AI-system som kan upptäcka deepfakes eller avvikande beteenden och uppdaterade rättsliga ramar för att hålla förövare ansvariga. I grund och botten måste vi förutse att varje kapacitet AI ger välvilliga användare också kan ges till brottslingar – och förbereda oss därefter.

Kriminell missbruk, bedrägeri och säkerhetshot i AI

Militarisering och autonoma vapen

Kanske den mest skrämmande risken med AI uppstår i krig och nationell säkerhet. AI integreras snabbt i militära system, vilket väcker möjligheten till autonoma vapen ("mördande robotar") och AI-driven beslutsfattning i strid.

Dessa teknologier kan reagera snabbare än någon människa, men att ta bort mänsklig kontroll över användningen av dödligt våld är förenat med fara. Det finns risk att ett AI-styrt vapen kan välja fel mål eller eskalera konflikter på oförutsedda sätt.

Om nationer tävlar om att utrusta sina arsenaler med intelligenta vapen kan det utlösa ett destabiliserande kapprustning. Dessutom kan AI användas i cyberkrigföring för att autonomt attackera kritisk infrastruktur eller sprida propaganda, vilket suddar ut gränsen mellan fred och konflikt.

Utvecklingen av AI i krig, om den koncentreras till några få, kan påtvingas människor utan att de får säga till om hur den används, vilket undergräver global säkerhet och etik.

— Förenta nationerna

Autonoma vapensystem medför också juridiska och moraliska dilemman – vem är ansvarig om en AI-drönare av misstag dödar civila? Hur följer sådana system internationell humanitär rätt?

Dessa obesvarade frågor har lett till krav på förbud eller strikt reglering av vissa AI-drivna vapen. Att säkerställa mänsklig övervakning av AI som kan fatta livsavgörande beslut ses som avgörande. Utan detta är risken inte bara tragiska misstag på slagfältet utan också en urholkning av mänskligt ansvar i krig.

Militarisering och autonoma vapen i AI

Brist på transparens och ansvar

De flesta avancerade AI-system idag fungerar som "svarta lådor" – deras interna logik är ofta ogenomskinlig även för deras skapare. Denna brist på transparens skapar en risk att AI-beslut inte kan förklaras eller ifrågasättas, vilket är ett allvarligt problem inom områden som rättsväsende, finans eller sjukvård där förklarbarhet kan vara ett juridiskt eller etiskt krav.

Om AI nekar någon ett lån, diagnostiserar en sjukdom eller avgör vem som får villkorlig frigivning, vill vi naturligtvis veta varför. Med vissa AI-modeller (särskilt komplexa neurala nätverk) är det svårt att ge en tydlig motivering.

Brist på transparens kan också undergräva möjligheten att effektivt ifrågasätta beslut baserade på resultat från AI-system, och kan därmed kränka rätten till en rättvis rättegång och effektiv rättelse.

— UNESCO

Med andra ord, om varken användare eller tillsynsmyndigheter kan förstå hur AI fattar beslut blir det nästan omöjligt att hålla någon ansvarig för misstag eller fördomar som uppstår.

För att motverka detta förespråkar experter förklarbar AI-tekniker, rigorös granskning och regleringskrav på att AI-beslut ska kunna spåras till mänsklig auktoritet.

Globala etiska riktlinjer insisterar på att det alltid ska vara möjligt att ”tilldela etiskt och juridiskt ansvar” för AI-systemens beteende till en person eller organisation. Människor måste förbli ytterst ansvariga, och AI bör assistera snarare än ersätta mänskligt omdöme i känsliga frågor. Annars riskerar vi att skapa en värld där viktiga beslut fattas av oförståeliga maskiner, vilket är en väg till orättvisa.

Brist på transparens och ansvar vid användning av AI på arbetsplatsen

Koncentration av makt och ojämlikhet

AI-revolutionen sker inte jämnt över världen – ett fåtal företag och länder dominerar utvecklingen av avancerad AI, vilket medför egna risker.

Spjutspets-AI-modeller kräver enorma mängder data, talang och datorkraft som endast teknikjättar (och välfinansierade regeringar) för närvarande besitter.

Detta har lett till en mycket koncentrerad, enhetlig, globalt integrerad leveranskedja som gynnar några få företag och länder.

— World Economic Forum

En sådan koncentration av AI-makt kan leda till monopolistisk kontroll över AI-teknologier, vilket begränsar konkurrens och konsumentval. Det ökar också risken att prioriteringarna hos dessa få företag eller nationer formar AI på sätt som inte tar hänsyn till allmänintresset.

Denna obalans kan förvärra globala ojämlikheter: rika nationer och företag tar stora kliv framåt genom att utnyttja AI, medan fattigare samhällen saknar tillgång till de senaste verktygen och drabbas av arbetsförlust utan att njuta av AI:s fördelar.

Dessutom kan en koncentrerad AI-industri hämma innovation (om nykomlingar inte kan konkurrera med de etablerades resurser) och utgöra säkerhetsrisker (om kritisk AI-infrastruktur kontrolleras av bara några få aktörer blir den en enda felpunkt eller manipulationspunkt).

Att hantera denna risk kräver internationellt samarbete och eventuellt nya regleringar för att demokratisera AI-utvecklingen – till exempel stödja öppen forskning, säkerställa rättvis tillgång till data och datorkraft samt utforma policyer (som EU:s föreslagna AI-lag) för att förhindra missbruk av "AI-portvakter". Ett mer inkluderande AI-landskap skulle bidra till att AI:s fördelar delas globalt, istället för att öka klyftan mellan teknikrika och teknikfattiga.

Koncentration av makt och ojämlikhet

Miljöpåverkan av AI

Ofta förbises i diskussioner om AI:s risker är dess miljöavtryck. AI-utveckling, särskilt träning av stora maskininlärningsmodeller, förbrukar enorma mängder elektricitet och datorkraft.

Datacenter fyllda med tusentals energikrävande servrar behövs för att bearbeta de enorma datamängder som AI-system lär sig från. Detta innebär att AI indirekt kan bidra till koldioxidutsläpp och klimatförändringar.

Medan investeringarna i AI ökar förväntas utsläppen från drift av AI-modeller stiga kraftigt – rapporten förutspådde att de främsta AI-systemen tillsammans kan släppa ut över 100 miljoner ton CO₂ per år, vilket belastar energiinfrastrukturen avsevärt.

För att sätta det i perspektiv driver datacenter som driver AI upp elförbrukningen "fyra gånger snabbare än den totala ökningen av elförbrukning".

Förutom koldioxidutsläpp kan AI också förbruka mycket vatten för kylning och producera elektroniskt avfall när hårdvara snabbt uppgraderas. Om detta inte kontrolleras kan AI:s miljöpåverkan undergräva globala hållbarhetsinsatser.

Dessa risker kräver att AI görs mer energieffektivt och att renare energikällor används. Forskare utvecklar gröna AI-tekniker för att minska energianvändningen, och vissa företag har lovat att kompensera AI:s koldioxidkostnader. Trots detta är det en angelägen fråga att rusningen mot AI kan få en hög miljömässig prislapp. Att balansera teknologisk framsteg med ekologiskt ansvar är en annan utmaning som samhället måste hantera när vi integrerar AI överallt.

Miljöpåverkan av AI

Existentiella och långsiktiga risker

Bortom de omedelbara riskerna varnar vissa experter för mer spekulativa, långsiktiga risker från AI – inklusive möjligheten att en avancerad AI växer bortom mänsklig kontroll. Medan dagens AI-system är smala i sina förmågor arbetar forskare aktivt mot mer generell AI som potentiellt kan överträffa människor inom många områden.

Detta väcker komplexa frågor: om en AI blir mycket mer intelligent eller autonom, kan den då agera på sätt som hotar mänsklighetens existens? Även om det låter som science fiction har framstående personer inom teknikvärlden uttryckt oro för "skurk-AI"-scenarier, och regeringar tar diskussionen på allvar.

Experter har olika uppfattningar om risken att mänskligheten förlorar kontrollen över AI på ett sätt som kan leda till katastrofala utfall.

— Internationell AI-säkerhetsrapport

Den vetenskapliga konsensusen är inte enhetlig – vissa tror att superintelligent AI är årtionden bort eller kan hållas i linje med mänskliga värderingar, medan andra ser en liten men icke-noll chans för katastrofala utfall.

Sammanfattningsvis erkänns att existentiell risk från AI, hur avlägsen den än är, inte kan helt avfärdas. Ett sådant utfall kan innebära att AI driver sina mål på bekostnad av mänskligt välbefinnande (det klassiska exemplet är en AI som, om den är felprogrammerad, beslutar att göra något skadligt i stor skala eftersom den saknar sunt förnuft eller moraliska begränsningar).

Medan ingen AI idag har någonstans i närheten av sådan handlingsfrihet är takten i AI-utvecklingen snabb och oförutsägbar, vilket i sig är en riskfaktor.

Att förbereda sig för långsiktiga risker innebär att investera i forskning om AI-anpassning (för att säkerställa att AI-mål förblir kompatibla med mänskliga värderingar), etablera internationella avtal om höginsats AI-forskning (likt avtal om kärnvapen eller biologiska vapen) och behålla mänsklig övervakning när AI-system blir mer kapabla.

AI:s framtid rymmer enorma möjligheter, men också osäkerhet – och försiktighet kräver att vi beaktar även lågprobabilistiska, högpåverkande risker i vår långsiktiga planering.

Existentiella och långsiktiga risker i AI

Navigera AIs framtid ansvarsfullt

AI jämförs ofta med en kraftfull motor som kan driva mänskligheten framåt – men utan bromsar och styrning kan motorn svänga ur kurs. Som vi har sett är riskerna med att använda AI mångfacetterade: från omedelbara problem som partiska algoritmer, falska nyheter, integritetsintrång och arbetsmarknadsstörningar till bredare samhällsutmaningar som säkerhetshot, "svarta lådor"-beslutsfattande, Big Tech-monopol, miljöbelastning och till och med det avlägsna hotet att förlora kontrollen till superintelligent AI.

Regeringar, internationella organisationer, branschledare och forskare samarbetar allt mer för att hantera dessa frågor – till exempel genom ramverk som:

• USA:s NIST AI Risk Management Framework (för att förbättra AI:s pålitlighet)
• UNESCO:s globala rekommendation för AI-etik
• Europeiska unionens AI-lag

Dessa insatser syftar till att maximera AI:s fördelar samtidigt som dess nackdelar minimeras, och säkerställa att AI tjänar mänskligheten och inte tvärtom.