Artificiell intelligens

Vad står på spel?

Den mänskliga intelligensen har lett fram till mänsklighetens största triumfer, men den ligger även bakom några av de värsta katastroferna genom historien. Vad händer då om vi skapar artificiell intelligens (AI) som är betydligt mer intelligent än någon människa? Kommer det att hjälpa oss nå ännu längre eller kommer det, som en del experter befarar, att utlösa den värsta katastrofen av dem alla: mänsklighetens utdöende?

Dagens AI-system presterar redan bättre än människor på de uppgifter de tränats för – framför allt är de snabbare. Det tar bara några sekunder för ett AI-system att vinna ett parti schack eller go, översätta en artikel, eller planera körväg till en viss destination med utgångspunkt i aktuella trafikmönster.

En människa behöver visserligen längre tid på sig för att utföra någon av dessa uppgifter, men en viktig aspekt av mänsklig intelligens är att vi kan utföra dem alla. Vi har det som kallas generell intelligens. AI-system kan bara utföra de uppgifter de tränats för, men en människa kan lära sig av sammanhang och erfarenhet och utveckla nya färdigheter eller lösa nya problem.

Många experter befarar att ett AI-system som uppnår mänskliga nivåer av generell intelligens snabbt kommer att prestera bättre än oss, precis som AI-system redan gjort när det handlar om snävare uppgifter. Vad AI-systemet kommer att göra i ett sådant läge vet vi inte.

"… det är allmänt vedertaget att vi förr eller senare kommer att kunna skapa AI-system som kan utföra de flesta uppgifter lika bra som en människa."

Varför utgör det här en risk?

Det är viktigt att komma ihåg att det experterna fruktar inte är att en AI plötsligt ska bli psykopatisk och börja skada eller döda människor på måfå. Det experterna befarar är att ett AI-program medvetet missbrukas för att orsaka skada, eller blir alltför bra på att utföra en uppgift som inte definierats på ett bra sätt.

Vi behöver bara se på några av de problem som idag orsakas av snäva AI-program för att föreställa oss de problem som ett ännu intelligentare system skulle kunna orsaka. Vi har redan sett hur rekommendationsalgoritmer i sociala medier kan användas för att sprida desinformation och skada demokratin. Och samtidigt som AI-forskarna febrilt arbetar för att hitta sätt att förhindra spridningen av desinformation, är de oroliga att problemet snart förvärras i och med så kallade ”deep fakes” – det vill säga att AI-program ändrar innehållet i en video utan att tittaren inser att den blivit manipulerad.

Samtidigt har AI-system som skapats med de allra bästa avsikter – för att identifiera bilder, gå igenom jobbansökningar eller minimera mängden monotont arbete – i stället oavsiktligt förstärkt institutionaliserad rasism, äventyrat arbetstillfällen, och förvärrat ojämlikheten.

Det är lätt att föreställa sig hur mycket dessa problem skulle kunna förvärras när avancerade AI-system agerar på många olika plattformar eller hamnar i händerna på terrorister eller tyranner.

Hur mycket vet vi?

I science fiction gestaltas artificiell intelligens ofta som människolika robotar, men de AI-system vi interagerar med i vardagen är oftast algoritmer som körs i bakgrunden av något program vi använder. De fungerar så smidigt att man ofta inte inser att man just har haft med AI att göra om man inte är hemmastadd i AI-världen.

I nuläget kan de här programmen bara utföra snäva uppgifter. Men det är allmänt vedertagetatt vi förr eller senare kommer att kunna skapa AI-system som kan utföra de flesta uppgifter lika bra som en människa. I enkätundersökningar som gjorts med experter anser medianexperten att det finns ungefär 50 procents sannolikhet att sådana AI-system kommer att finnas år 2050, och minst fem procents sannolikhet att det kommer att finnas superintelligent AI inom två år efter att AI når mänsklig nivå. Sannolikheten för att det sistnämnda sker inom 30 år anses vara 50 procent. När det gäller de långsiktiga samhällskonsekvenserna av AI på mänsklig nivå eller högre råder dock oklarhet, och experternas uppskattningar är mycket osäkra.

Det finns ingen avstängningsknapp

Det är frestande att säga att om ett AGI-system börjar bete sig illa så är det bara att stänga av det. Men vi behöver bara titta på några av dagens problem för att inse att det är orealistiskt.

 

Se bara på försöken att stoppa ”fake news”. Desinformation sprids ofta i sociala medier av rekommendationsalgoritmer som drivs av artificiell intelligens. Men plattformarna använder också samma algoritmer för att dela riktiga nyheter och personliga berättelser som användarna uppskattar.

 

Det är svårt att ”stänga av” desinformationen utan att det drabbar spridningen av riktig information (eller rent av ärlig reklam, hur irriterande man än kan tycka att den är). Det är inte troligt att sociala medieplattformar skulle stänga ner sig själva helt för att komma till rätta med problemet, och de falska nyheterna skulle troligen ändå bara dyka upp på en annan plattform.

 

I takt med att AI blir mer avancerad och allestädes närvarande kommer fler sådana utmaningar att dyka upp. Att stänga av ett AGI-system kommer i framtiden kanske att vara som att stänga av hela internet i dag.

AI i kampen mot COVID-19 – vad vi har lärt oss

Varför ska vi då utveckla AI, om det nu utgör ett så stort hot mot mänskligheten? De flesta AI-forskare ger sig in på området just för att tekniken har kapacitet att göra så mycket gott. När COVID-19 svepte över världen under våren 2020 började AI-forskarna genast att utveckla algoritmer, modeller och program för att på olika sätt hjälpa vården.

 

Tusentals artiklar publicerades om hur AI kunde användas i kampen mot COVID – för prognostisering och uppföljning, kontaktspårning, bevakning av utbrott och enskilda sjukdomsfall, tidig diagnostisering, stöd till vårdpersonal, och mycket mer. En del AI-applikationer var så användbara att Food and Drug Administration (USA:s livsmedels- och läkemedelsverk) utfärdade en handfull nödtillstånd för att programmen skulle implementeras så snabbt som möjligt. I Storbritannien finns ISARIC4C-studien som använder ”big data”-teknik för att förutsäga vilka patienter som löper större risk att bli allvarligt sjuka.

 

Större delen av AI-arbetet levde dock inte upp till de medicinska kraven. I en forskningsöversikt anges exempelvis att ”nästan alla publicerade prognosmodeller redovisas för dåligt, och risken för bias är så stor att deras rapporterade förutsägelseförmåga troligen är i överkant.” Mer nyligen kom en studie i tidskriften Nature Machine Intelligence fram till att över 300 forskningsartiklar där man försökt använda AI för att identifiera COVID-19 via bröstkorgsröntgen inte dög för klinisk användning.

 

Världshälsoorganisationen (WHO) och tidskriften British Medical Journal genomförde ett samarbete i syfte att identifiera god praxis och lärdomar av att använda AI för forskning, diagnostisering och behandling av COVID-19. Man fann att det fanns problem med diskriminering, bias och etik. Två av de fem granskningsartiklarna handlade specifikt om farhågorna för att AI-applikationerna förvärrar den ojämlikhet som redan finns.

 

I september 2020 publicerade British Medical Journal, Nature Medicine och The Lancet tillsammans uppdateringar av sina riktlinjer för rapportering och studieprotokoll för kliniska prövningar av AI-verktyg. Dessa och andra nya verktyg kan hjälpa AI-forskare att rapportera bättre och ta fram bättre, mer reproducerbara studier, och se till att AI fortsätter att föra läkarvetenskapen framåt.

 

"Större delen av AI-arbetet levde dock inte upp till de medicinska kraven...AI-applikationerna förvärrar den ojämlikhet som redan finns."

Vad är artificiell intelligens?

Den nuvarande jakten på artificiell generell intelligens (AGI) utgår från ett systems kapacitet för automatiserad prediktiv analys, eller maskininlärning, som processen vanligen kallas. En viktig del av maskininlärning är användningen av neuronnät (neural networks): system som omfattar ett stort antal processorer som verkar parallellt och är ordnade i nivåer. Den första nivån tar emot rådata; varje därpå följande nivå tar emot resultaten från föregående nivå. Neurala nätverk anpassar sig och modifierar sig självständigt, med utgångspunkt i den inledande träningen och datainmatning. Hur detta sker står oftast inte klart för de som utvecklat systemet.

Om forskarna en dag lyckas bygga ett AGI på mänsklig nivå kommer systemet troligen att omfatta expertsystem, behandling av naturliga språk (NLP), och maskinseende (machine vision). Det kommer även att efterhärma kognitiva funktioner som vi idag brukar associera med den mänskliga hjärnan, bl.a. lärande, resonerande, problemlösning och självkorrigering. Men de underliggande mekanismerna kan komma att skilja sig avsevärt från de som sker i den mänskliga hjärnan, liksom dagens flygplan fungerar på ett annat sätt än fåglar.

Vilka är de viktigaste faktorerna som påverkar risknivåerna?

Den risk som är kopplad till artificiell intelligens är i nuläget ännu under framväxt, men den kan öka mycket snabbt om det sker plötsliga tekniska genombrott som medför att samhällsinstitutioner och politiska institutioner inte hinner anpassa sina riskhanteringsmekanismer. Framförallt kan nya AI-förmågor utvecklas extremt snabbt om utvecklingen av AI automatiseras.

Risker kan förvärras av geopolitiska spänningar som leder till kapprustning i fråga om AI-vapen, kapplöpningar i AI-utveckling som gör avkall på säkerhet, eller otillräcklig styrning när det gäller kraftfull AI.

Risknivån för AI kommer till en del att bero på hur bra det går att få en avancerad artificiell intelligens mål att stämma överens med mänskliga värderingar. Detta kräver att man bättre kan precisera mänskliga värderingar, och/eller att det utvecklas nya metoder med vilka AI kan lära sig och upprätthålla dessa värderingar.

"Risker kan förvärras av geopolitiska spänningar som leder till kapprustning i fråga om AI-vapen, kapplöpningar i AI-utveckling som gör avkall på säkerhet, eller otillräcklig styrning när det gäller kraftfull AI."

Granskad av

Ariel Conn

Grundare och VD för Magnitude 10 Consulting

Artificiell intelligens: Riskhantering

På senare år har riskerna med artificiell intelligens blivit mycket mer påtagliga, och det har regelbundet dykt upp nyhetsartiklar om faror i den verkliga världen. De mest välkända...

Läs mer