Fremtidens teknologi

Superintelligens: Science fiction eller reell fremtid? Dette sier forskerne

O
Ole Gunnar Hellenes··8 min lesing

Sist faktasjekket:

En søylegraf med et menneskeikon i en lav søyle og et nettverksikon i en langt høyere søyle illustrerer superintelligens

Kort oppsummert

Superintelligens (ASI) er en tenkt KI som er langt smartere enn mennesker på nesten alle områder. Ideen er mer enn science fiction, for filosofen Nick Bostrom ga den en grundig akademisk behandling i 2014, og OpenAI omtaler den selv som en mulig følge av egen forskning. Forskerne er likevel uenige om den er mulig, og i så fall når.


Hva superintelligens faktisk betyr

Superintelligens forkortes ofte ASI, som står for Artificial Superintelligence. Det er en tenkt KI som ikke bare er like smart som et menneske, men som er kraftig overlegen på praktisk talt alle intellektuelle områder samtidig. For å vise hvor stor avstanden er, bruker mange forskjellen mellom et menneske og en maur. Det er mer enn en gradsforskjell, for kløften er så stor at vi knapt kan begripe hvordan en maur “tenker”. Tanken er at avstanden mellom oss og en superintelligens kan bli minst like stor.

Et ikondiagram viser at gapet mellom menneske og superintelligens er langt større enn gapet mellom maur og menneske

Superintelligens må ikke blandes sammen med AGI, som står for kunstig generell intelligens. AGI er en KI som er omtrent på menneskelig nivå i de fleste oppgaver, og superintelligens er per definisjon steget etter. Den er altså ikke bare like god som et menneske, men vesentlig og kvalitativt bedre. Google DeepMind trekker opp det samme skillet i sitt eget forskningsrammeverk, “Levels of AGI”, der ASI er et eget nivå over AGI.

Begrep Nivå Betyr
AGI Omtrent menneskelig nivå Matcher mennesket på tvers av de fleste intellektuelle oppgaver
ASI (superintelligens) Over menneskelig nivå Overgår mennesket kraftig på praktisk talt alle områder samtidig

Nick Bostrom og opprinnelsen til begrepet

Ideen om overmenneskelig intelligens har lenge eksistert i science fiction. Det var likevel Oxford-filosofen Nick Bostrom som ga begrepet en systematisk, akademisk behandling, i boken “Superintelligence: Paths, Dangers, Strategies” fra 2014. Der definerte han superintelligens som en tenkt intelligens som langt overgår mennesket på praktisk talt alle områder. Det gjelder ikke bare regnekraft og hukommelse, men også kreativitet, sosial forståelse og strategisk tenkning.

Bostrom bygget videre på en idé som statistikeren I.J. Good beskrev allerede i 1965. Hvis en KI når menneskelig nivå og samtidig klarer å forbedre seg selv, kan det ifølge Good oppstå en intelligenseksplosjon. Det er en rask utvikling som forsterker seg selv, der intelligensen stiger langt raskere enn mennesker klarer å følge med på eller kontrollere. Denne mekanismen kalles rekursiv selvforbedring, og vi har skrevet mer om den i en egen artikkel.

Bostroms bok er ikke skjønnlitteratur, men en filosofisk og strategisk analyse. Den viser til undersøkelser der eksperter anslår når KI kan nå milepæler som intelligens på menneskelig nivå. Det er denne systematiske tilnærmingen som skiller Bostroms arbeid fra HAL 9000 i “2001: En romodyssé” eller Skynet i “Terminator”. Likevel utforsker alle tre den samme grunnleggende ideen, nemlig hva som skjer når en skapt intelligens blir smartere enn den som skapte den.

En forgreningsgrafikk viser samme idé splittet i et bokikon for Bostroms analyse og et filmikon for science fiction


Tar seriøse forskere og selskaper dette faktisk på alvor?

Ja, i økende grad, og ikke bare som et filosofisk tankeeksperiment. OpenAI har selv publisert et blogginnlegg med tittelen “Planning for AGI and beyond”. Der skriver selskapet rett ut at superintelligens kan bli en følge av den forskningen de driver, og drøfter hvilke forberedelser og sikkerhetstiltak det i så fall vil kreve. Scenarioet kommer altså ikke fra anonyme kritikere utenfra. Det er selskapet bak ChatGPT som selv beskriver det offentlig og tar høyde for det i strategien sin.

Samtidig er det fortsatt faglig uenighet om hvor sannsynlig dette er, og hvor nær det ligger. I diskusjonsforumet r/ArtificialIntelligence har brukere stilt spørsmålet “hvorfor er folk så sikre på at kunstig superintelligens er mulig i det hele tatt?” De peker på at dagens språkmodeller er imponerende, men at de fortsatt har helt andre egenskaper enn det en “intelligenseksplosjon” ville kreve. Andre går lenger, blant annet i tråden “Superintelligence is a Myth”. Der argumenterer de for at hele scenarioet undervurderer fysiske og praktiske begrensninger som ikke noe intelligensnivå alene kan overvinne.


Hvordan skiller dette seg fra våre andre AGI-artikler?

Vi har skrevet om flere spørsmål om KI i fremtiden, og de er lette å blande sammen. Her er derfor et konkret skille. Artikkelen Hva er AGI? forklarer hva en KI på menneskelig nivå er. Artikkelen Hvorfor tror noen AI-selskaper AGI kommer om få år, mens andre tror det er tiår unna? handler om uenigheten om når AGI kommer. Og Bør AGI-utvikling reguleres? handler om politikk og regulering.

Denne artikkelen handler om et mer grunnleggende spørsmål, nemlig hva som skjer etter AGI. Vi ser på om superintelligens er et scenario som diskuteres seriøst, eller om det er ren fiksjon, og på hvordan vi eventuelt kan komme dit. Den mest omtalte veien dit er rekursiv selvforbedring, som vi forklarer i en egen artikkel om AI som forsker på seg selv. Her handler det altså ikke om når AGI kommer eller om det bør reguleres, men om det som ligger enda lenger frem, og om det fortjener å bli tatt på alvor.


Vanlige spørsmål

Er superintelligens det samme som AGI?

Nei. AGI er en KI som er omtrent på menneskelig nivå i de fleste oppgaver. Superintelligens (ASI) er et nivå langt over dette. Da er KI-en ikke bare like god som mennesket, men kraftig overlegen på praktisk talt alle intellektuelle områder samtidig.

Tror forskere faktisk på dette, eller er det bare science fiction?

Begge deler, avhengig av hvem du spør. Nick Bostroms akademiske arbeid fra 2014 og OpenAIs egne offentlige uttalelser viser at seriøse forskningsmiljøer og selskaper tar scenarioet så alvorlig at de planlegger for det. Samtidig er det fortsatt faglig uenighet om hvor sannsynlig det er, og hvor nær det ligger. Den uenigheten kommer blant annet frem i åpne diskusjoner i forskningsmiljøer og på nettfora.

Hvordan skulle en superintelligens i så fall oppstå?

Den mest diskuterte mekanismen kalles rekursiv selvforbedring eller intelligenseksplosjon. Tanken er at en KI blir god nok til å forbedre sin egen etterfølger, som igjen blir enda bedre til å forbedre neste versjon. Slik forsterker utviklingen seg selv. Dette er fortsatt et omstridt og ubevist scenario, og ingen har sett det skje i praksis.

Er dette snart, eller langt unna?

Det finnes ingen bred faglig enighet, verken om det skjer i det hele tatt eller om når det i så fall skjer. Men de siste årene har spørsmålet flyttet seg. Før hørte det nesten bare hjemme i filosofi og science fiction, mens store, ressurssterke AI-selskaper nå selv omtaler det offentlig som en del av sin langsiktige strategi.


Oppsummering og kilder

Det viktigste å huske:

  • Superintelligens (ASI) er et nivå over AGI: ikke bare menneskelig nivå, men kraftig overlegen på tvers av nesten alle områder
  • Begrepet ble systematisert av filosofen Nick Bostrom i boken “Superintelligence” (2014)
  • OpenAI har selv omtalt superintelligens offentlig som en mulig, fremtidig konsekvens av egen forskning
  • Det finnes fortsatt reell, uavklart faglig uenighet om hvor sannsynlig og hvor nært scenarioet er

Kilder brukt i denne artikkelen:

Sist oppdatert: August 2026

Les også

#fremtidens-teknologi#superintelligens#agi