AI-forskning og utvikling
Ordforklaringer innen AI-forskning og utvikling.
Anthropic
Selskapet bak Claude - grunnlagt av tidligere OpenAI-ansatte med fokus på å bygge trygg og pålitelig AI.
Google DeepMind
Googles avdeling for KI-forskning, med hovedkontor i London. Står bak flere av de mest kjente KI-gjennombruddene i verden, som AlphaFold (som regner ut hvordan proteiner er bygd opp) og Gemini-modellene som brukes i Google Søk og andre Google-tjenester. Eies av Googles morselskap Alphabet.
Intelligenseksplosjon (intelligence explosion)
Et tenkt scenario der en KI blir god nok til å forbedre sin egen etterfølger, som igjen blir enda bedre til å forbedre neste versjon, i en selvforsterkende sløyfe som i teorien kan gå svært raskt. Først beskrevet av statistikeren I.J. Good i 1965, senere gitt en systematisk, akademisk behandling av filosofen Nick Bostrom i boken "Superintelligence" (2014). Er samme mekanisme som kalles "rekursiv selvforbedring", og regnes som den mest diskuterte foreslåtte veien mot superintelligens. Fortsatt et omstridt, ubevist scenario, ikke en observert hendelse.
Kontrollproblemet (AI control problem)
Utfordringen med å sikre at et kraftig, målrettet KI-system faktisk gjør det menneskene mente, ikke bare det de bokstavelig instruerte det til å gjøre. Blir vanskeligere å løse jo mer kapabelt og selvstendig systemet blir, fordi flere uforutsette "løsninger" på et mål blir mulige. Handler ikke om at KI utvikler egne, fiendtlige hensikter, men om et teknisk presisjonsproblem.
Meta AI
Facebook- og Instagram-eieren Metas avdeling for KI-forskning og -utvikling. Bygger blant annet Llama-modellene, som andre selskaper og utviklere kan bruke og bygge videre på uten å betale for det. Navnet brukes også om KI-assistenten som dukker opp direkte inne i WhatsApp, Instagram, Messenger og Facebook.
Nvidia
Et amerikansk teknologiselskap som lager grafikkbrikker, kalt GPU-er. Det er på slike brikker de fleste KI-modeller blir trent og kjørt. Nvidia er verdens største leverandør av dem, og derfor en av de viktigste aktørene i hele KI-bransjen. Selskapet lager selv ikke chatboter for vanlige brukere.
OpenAI
Selskapet bak ChatGPT og GPT-modellene. Grunnlagt i 2015 med mål om å utvikle trygg kunstig intelligens som er til nytte for menneskeheten.
Sykofanti (AI sycophancy)
En KI-modells tendens til å prioritere det å være enig med brukeren fremfor det å ha rett. Oppstår fordi modeller trenes med tilbakemelding fra mennesker (RLHF), og mennesker foretrekker systematisk svar som er hyggelige og bekreftende, selv når de er faktisk feil. Er noe annet enn hallusinasjon, som handler om usikker gjetning, ikke bevisst medgjørlighet.