«Demis Hassabis, sjefen for Deep Mind, Googles satsning på kunstig intelligens, sier: ‘Kunstig intelligens er «overhyped», men samtidig undervurdert …’ Det er et godt poeng, synes jeg. Det vi nå opplever er på en måte «hype»-delen av det, med alle overskrifter og sensasjonsartede oppslag som vi har opplevd det siste halvannet året med Chat GPT og andre språkmodeller, mens det synes å gå under radaren at det faktisk kommer et veldig drastisk teknologiskifte på mange områder, ikke bare når det gjelder språkbehandling.»

Hva er egentlig kunstig intelligens?

«Jeg vil si at vi allerede for lenge siden har oppfunnet kunstig intelligens, vi har kalkulatorer og datamaskiner, og de gjør ting som det ellers ville kreve menneskelig intelligens å gjøre. Den første datamaskinen ble konstruert på 1800-tallet, man hadde allerede da forstått grunnprinsippene for å lage en maskin som kunne gjøre det den får instruksjoner om å gjøre. Men man hadde da ikke transistorer, bare tannhjul og mekanikk.

Det vakte oppsikt da den regjerende verdensmesteren i sjakk, Garri Kasparov, tapte for en datamaskin. Det trodde han ikke selv var mulig. Etter hvert har man måttet vende seg til at datamaskinen slår mennesket på spesialiserte områder. For eksempel kalkulere, eller spille sjakk eller ‘Go’ på et slik nivå som ingen mennesker kan leve opp til.»

Maskiner som lærer

«Det som skapte den store forandringen fra rundt 2011 var at man oppdaget nye muligheter med en teknologi kalt nevrale nettverk. Det som skiller dette fra andre teknologier er at det er læring involvert. Man programmerer ikke. Istedenfor å mate en datamaskin med algoritmer som forteller hva den skal gjøre, viser man den en mengde eksempler på input og output.

Når man skalerte opp disse nevrale nettverkene og foret dem med mye mer data enn tidligere, fikk man ganske forbløffende resultater. Det mest kjente resultatet er å kunne beskrive innholdet av bilder. Dette var veldig vanskelig før man begynte med nevrale nett.

Noen mennesker brukte tid på å gjennomgå 1 million bilder og beskrive med tekst innholdet på bildene. Det var første gang man prøvde seg på så store datamengder. Etter at man hadde kjørt 1 million bilder gjennom et nevralt nettverk, så man at det slo alle andre måter å gjenkjenne bilder på ned i støvlene. De som ledet arbeidet med dette, er fortsatt ledende i dag på KI-fronten.

Så det nye er maskiner som lærer. Man har for så vidt hatt kunstig intelligens lenge, hvor menneskene bestemmer i detalj hva som skal utføres, men man har aldri før løst problemet med maskinlæring. Ofte kaller man det dyp læring eller deep learning.

Alt vi nå har sett med Chat GPT og lignende språkmodeller er basert på dyp læring, maskinlæring.»

Vi vet ikke hvordan det fungerer

«Det er veldig imponerende hva man kan få til ved hjelp av maskinlæring, men samtidig er det nye problemstillinger som dukker opp. Den ene er at man egentlig ikke forstår hvordan teknologien virker, men bare observerer at den fungerer, og så må man etterpå studere det som et slags naturfenomen, akkurat som man studerer en nyoppdaget dyreart og ser hvordan den reagerer på forskjellige stimuli.

Man kan ikke analysere innholdet i disse modellene og si noe om hvordan de vil oppføre seg. Modellene er bare milliarder på milliarder av tall, som ikke gir mennesker noe informasjon. Det gjør at teknologien er vanskelig å kontrollere, og det er en av tingene som kan virke skremmende. Man vet ikke nå hvor langt teknologien kan nå hvis man pøser på med mer data og mer datakraft. På et eller annet tidspunkt vil det kreve så mye energi å kjøre de nye datasentrene for kunstig intelligens, at det blir uholdbart. Nå tenker man at man må finne smartere måter å lære opp disse nettene på. Hvis man ikke ukritisk mater inn alt som finnes på internett, men i stedet finner kvalitetsdata fra utvalgte kilder, blir også kvaliteten på språkmodellen bedre.»

Resultatene sensureres

«Fordi man ikke kan kontrollere systemene ut fra en forståelse av hvordan de fungerer, har man lagt et sensurlag utenpå modellen, og det er dette man ofte støter på når en språkmodell sier at den ikke kan svare på visse spørsmål. Utfordringen er bare at sensurlaget ofte ikke er like smart som modellen selv, og det gjør modellen ‘dummere’. Den er for eksempel blitt instruert til at hvis det kommer et spørsmål om bomber, så skal den ikke svare. Men det kan være mange anledninger der man snakker om bomber, uten at det er meningen å lage en bombe. Man kan for eksempel snakke om bombe i overført betydning.»

Vi kan få ulike svar på samme spørsmål

«En utfordring er at modellene er stokastiske, de vil ikke gi det samme resultatet hver gang. Dette er et problem hvis vi skal bruke KI til å automatisere prosesser. Vanligvis ønsker vi at en bestemt input skal gi et bestemt resultat, men det får vi ikke til her. Det er tankevekkende og interessant at menneskelige hjerner antakelig fungerer mer likt et nevralt nettverk enn en deterministisk maskin. Hvis du blir spurt om samme ting på to forskjellige dager, vil du antakelig ikke klare å gjenta eksakt det samme svaret. Så kanskje denne teknologien kan bidra til at vi får større forståelse av hvordan hjernen hos mennesker og dyr fungerer.»

Hallusinering

«Alle som har brukt disse språkmodellene vet at de kan si ting som ikke er sant. Det har fått navnet hallusinering – den hevder noe med tilsynelatende stor autoritet uten å ha dekning for det. Den har ikke noe begrep om hva som er virkelig og ikke virkelig, hva som er sant og ikke sant. Språkmodeller er f.eks. notorisk dårlig til å regne. Du kan gi den to tall å multiplisere, så kommer den med et galt svar. Samtidig har man fått den til å resonnere til en viss grad. Ofte kan man få en slik modell til å bestå forskjellige oppgaver der du ber den om å resonnere, men ikke på et veldig høyt nivå.

«Hvis man ikke ukritisk mater inn alt som finnes på internett, men i stedet finner kvalitetsdata fra utvalgte kilder, blir også kvaliteten på språkmodellen bedre», sier Sverre Andreassen.

Dog gjelder dette ikke de aller nyeste modellene som nå kommer på markedet. De er trent til å resonnere, ikke bare blindt generere tekst. Dette er et langt skritt på veien mot å redusere hallusinering og gjøre dem til nyttige hjelpere på mange fagområder som krever både kunnskaper og resonneringsevne på høyt nivå.»

Generell intelligens

«Det foregår en diskusjon om hvorvidt disse KI-systemene kan utvikle en generell intelligens på tvers av mange områder, og om de kan utvikle det vi menneskelig sett ville kalle sunn fornuft. Foreløpig er vi nok langt fra det, men vi vil stadig se flere og flere avgrensede områder hvor KI-systemer overgår menneskelige evner. Slik sett kan de være utrolig intelligente på noen områder, men samtidig like forbløffende dumme på andre.»

Bør vi være bekymret?

«Det er bekymringer rundt teknologien. Kan den på de fleste områder bli smartere enn mennesker? Og kan en datamaskin som er blitt smartere enn mennesker begynne å tjene seg selv, snarere enn å betjene menneskene?

En konsekvens kan bli at mange jobber forsvinner, og til gjengjeld oppstår det nye typer jobber, som man ikke hadde fantasi til å forestille seg. Men teknologien er en reell trussel for dem som arbeider med språk, som oversettere og tekstforfattere. Det er også en trussel mot kunstnere. Det blir vanskelig å skille mellom ekte musikk og generert musikk, eller å skille mellom genuine bilder og bilder som er manipulert av kunstig intelligens.

Vi er jo allerede dypt påvirket av den teknologien vi har skapt, med bruk av datamaskiner, internett og telefoni. Vi lever i så stor symbiose med teknologien, at det begynner å bli vanskelig å tenke seg et liv uten. Samtidig er det mange utfordringer, man ser på nettavhengighet, spillavhengighet og mobilavhengighet og hvordan barn blir eksponert for dette. Hva gjør det med hjernene våre?

Men når først teknologien er der, er det veldig vanskelig å gå tilbake frivillig. Den er nok kommet for å bli, med mindre det kommer en katastrofal hendelse i menneskenes historie der ting går i glemmeboken. Etter romertiden var det mye teknologi som ble glemt. For eksempel har man ennå ikke funnet ut hvorfor romersk betong har holdt seg så godt i forhold til moderne betong. De laget store kupler uten armering, som har overlevd i nærmere 2000 år.

Det man vet er jo at menneskelig hjernestørrelse har gått jevnt og trutt nedover siden den industrielle revolusjon. Det kan jo hende at når man ikke trenger så mye hjernekapasitet for å klare seg og overleve, så kvitter naturen seg med den overflødige kapasiteten. Vi har mindre bevegelse i hverdagene enn før, derfor har vi opprettet treningssentre. Kanskje vi må innføre obligatorisk hjernetrim?»

Teknooptimisme og dommedagsprofetier

«Vil KI redde menneskeheten og løse alle verdens problemer, eller føre til dens undergang? Dette er spørsmål som følger med de store teknologiskiftene i menneskehetens historie, og KI er ikke noe unntak. Så lenge menneskelig visdom ikke følger samme utviklingskurve som teknologien, kan det se mørkt ut. Er løsningen mer teknologi, eller trenger vi en bedre forståelse av oss selv, slik at teknologien kan utnyttes på en ansvarlig måte? Vi kan håpe at pendelen vil svinge på et tidspunkt når flere innser konsekvensene av en blind teknologiutvikling som skaper minst like mange problemer og utfordringer som den løser.»

P.S. Sverre Andreassen legger til at utviklingen nå går så fort, at artikkelen kan være delvis utdatert før den kommer på trykk.