Artificiell intelligens

Vad står på spel?

Den mänskliga intelligensen har lett fram till mänsklighetens största triumfer, men den ligger även bakom några av de värsta katastroferna genom historien. Vad händer då om vi skapar artificiell intelligens (AI) som är betydligt mer intelligent än någon människa? Kommer det att hjälpa oss nå ännu längre eller kommer det, som en del experter befarar, att utlösa den värsta katastrofen av dem alla: mänsklighetens utdöende?

Dagens AI-system presterar redan bättre än människor på de uppgifter de tränats för – framför allt är de snabbare. Det tar bara några sekunder för ett AI-system att vinna ett parti schack eller go, översätta en artikel, eller planera körväg till en viss destination med utgångspunkt i aktuella trafikmönster.

En människa behöver visserligen längre tid på sig för att utföra någon av dessa uppgifter, men en viktig aspekt av mänsklig intelligens är att vi kan utföra dem alla. Vi har det som kallas generell intelligens. AI-system kan bara utföra de uppgifter de tränats för, men en människa kan lära sig av sammanhang och erfarenhet och utveckla nya färdigheter eller lösa nya problem.

Många experter befarar att ett AI-system som uppnår mänskliga nivåer av generell intelligens snabbt kommer att prestera bättre än oss, precis som AI-system redan gjort när det handlar om snävare uppgifter. Vad AI-systemet kommer att göra i ett sådant läge vet vi inte.

"”… det är allmänt vedertaget att vi förr eller senare kommer att kunna skapa AI-system som kan utföra de flesta uppgifter lika bra som en människa.”"

Varför utgör det här en risk?

Det är viktigt att komma ihåg att det experterna fruktar inte är att en AI plötsligt ska bli psykopatisk och börja skada eller döda människor på måfå. Det experterna befarar är att ett AI-program medvetet missbrukas för att orsaka skada, eller blir alltför bra på att utföra en uppgift som inte definierats på ett bra sätt.

Vi behöver bara se på några av de problem som idag orsakas av snäva AI-program för att föreställa oss de problem som ett ännu intelligentare system skulle kunna orsaka. Vi har redan sett hur rekommendationsalgoritmer i sociala medier kan användas för att sprida desinformation och skada demokratin. Och samtidigt som AI-forskarna febrilt arbetar för att hitta sätt att förhindra spridningen av desinformation, är de oroliga att problemet snart förvärras i och med så kallade ”deep fakes” – det vill säga att AI-program ändrar innehållet i en video utan att tittaren inser att den blivit manipulerad.

Samtidigt har AI-system som skapats med de allra bästa avsikter – för att identifiera bilder, gå igenom jobbansökningar eller minimera mängden monotont arbete – i stället oavsiktligt förstärkt institutionaliserad rasism, äventyrat arbetstillfällen, och förvärrat ojämlikheten.

Det är lätt att föreställa sig hur mycket dessa problem skulle kunna förvärras när avancerade AI-system agerar på många olika plattformar eller hamnar i händerna på terrorister eller tyranner.

Hur mycket vet vi?

I science fiction gestaltas artificiell intelligens ofta som människolika robotar, men de AI-system vi interagerar med i vardagen är oftast algoritmer som körs i bakgrunden av något program vi använder. De fungerar så smidigt att man ofta inte inser att man just har haft med AI att göra om man inte är hemmastadd i AI-världen.

Vad är artificiell intelligens?

I nuläget kan de här programmen bara utföra snäva uppgifter. Men det är allmänt vedertaget att vi förr eller senare kommer att kunna skapa AI-system som kan utföra de flesta uppgifter lika bra som en människa. I enkätundersökningar som gjorts med experter anser medianexperten att det finns ungefär 50 procents sannolikhet att sådana AI-system kommer att finnas år 2050, och minst fem procents sannolikhet att det kommer att finnas superintelligent AI inom två år efter att AI når mänsklig nivå. Sannolikheten för att det sistnämnda sker inom 30 år anses vara 50 procent. När det gäller de långsiktiga samhällskonsekvenserna av AI på mänsklig nivå eller högre råder dock oklarhet, och experternas uppskattningar är mycket osäkra.

Vilka är de viktigaste faktorerna som påverkar risknivåerna?

Den risk som är kopplad till artificiell intelligens är i nuläget ännu under framväxt, men den kan öka mycket snabbt om det sker plötsliga tekniska genombrott som medför att samhällsinstitutioner och politiska institutioner inte hinner anpassa sina riskhanteringsmekanismer. Framförallt kan nya AI-förmågor utvecklas extremt snabbt om utvecklingen av AI automatiseras.

Risker kan förvärras av geopolitiska spänningar som leder till kapprustning i fråga om AI-vapen, kapplöpningar i AI-utveckling som gör avkall på säkerhet, eller otillräcklig styrning när det gäller kraftfull AI.

Risknivån för AI kommer till en del att bero på hur bra det går att få en avancerad artificiell intelligens mål att stämma överens med mänskliga värderingar. Detta kräver att man bättre kan precisera mänskliga värderingar, och/eller att det utvecklas nya metoder med vilka AI kan lära sig och upprätthålla dessa värderingar.

Den nuvarande jakten på artificiell generell intelligens (AGI) utgår från ett systems kapacitet för automatiserad prediktiv analys, eller maskininlärning, som processen vanligen kallas. En viktig del av maskininlärning är användningen av neuronnät (neural networks): system som omfattar ett stort antal processorer som verkar parallellt och är ordnade i nivåer.

Den första nivån tar emot rådata; varje därpå följande nivå tar emot resultaten från föregående nivå. Neurala nätverk anpassar sig och modifierar sig självständigt, med utgångspunkt i den inledande träningen och datainmatning. Hur detta sker står oftast inte klart för de som utvecklat systemet.

Om forskarna en dag lyckas bygga ett AGI på mänsklig nivå kommer systemet troligen att omfatta expertsystem, behandling av naturliga språk (NLP), och maskinseende (machine vision). Det kommer även att efterhärma kognitiva funktioner som vi idag brukar associera med den mänskliga hjärnan, bl.a. lärande, resonerande, problemlösning och självkorrigering. Men de underliggande mekanismerna kan komma att skilja sig avsevärt från de som sker i den mänskliga hjärnan, liksom dagens flygplan fungerar på ett annat sätt än fåglar.

AI i det godas tjänst: bekämpning av pandemier

Varför ska vi då utveckla AI, om det nu utgör ett så stort hot mot mänskligheten? De flesta AI-forskare ger sig in på området just för att tekniken har kapacitet att göra så mycket gott. COVID-19-pandemin ger exempel på olika områden där AI kan bidra till att göra världen bättre.

  • Sålla information: Den kanske främsta förmågan hos AI är att analysera enorma mängder data. Denna förmåga kom till användning när Vita husets kontor för vetenskap och teknik gick samman med ett antal AI-företag och ideella organisationer för att skapa en databas med artiklar om COVID-19 i medicinska tidskrifter. Databasen hjälper läkare och forskare att söka igenom tusentals artiklar så att de bättre kan behandla och förhindra spridningen av coronaviruset.
  • Upptäcka sjukdomar: AI-system blir allt bättre på att känna igen anomalier på röntgenbilder. Därför är det ingen överraskning att de används för att identifiera coronaviruset på röntgenbilder av bröstkorgen.
  • Läkemedelsutveckling: AI används redan i dag för att utveckla nya läkemedel, och en del företag har använt sig av AI för att ta fram modeller för vilka befintliga läkemedel som skulle kunna bekämpa viruset, samt vilka nya läkemedel som kan utvecklas för att rädda fler liv.
  • Spåra hur en pandemi sprids: Detta arbete befinner sig fortfarande i sin linda, men om en ny pandemi inträffar är det möjligt att vi kan använda AI-system för att upptäcka hotet på ett tidigt stadium, så att vi kan förhindra spridning innan någon ens blivit medveten om hotet.
  • Hjälpa till att hålla avstånd: I vissa fall skulle robotar kunna användas för att hjälpa till att minimera exponeringen för smitta, exempelvis genom att desinficera ett utrymme. Med hjälp av appar kan man spåra vem som har rest vart och vem som befinner sig för nära vem. AI-system och robotteknik kan också användas för att hålla reda på vad som görs på sjukhus, så att patienter får maximalt med vård samtidigt som sjuksköterskor och läkare exponeras minimalt.

Granskad av

Ariel Conn

Grundare och VD för Magnitude 10 Consulting

Artificiell intelligens

Artificiell intelligens

Artificiell intelligens

Artificiell intelligens

Artificiell intelligens: Riskhantering

På senare år har riskerna med artificiell intelligens blivit mycket mer påtagliga, och det har regelbundet dykt upp nyhetsartiklar om faror i den verkliga världen. De mest välkända...

Läs mer