Livsfarlig eller gunstig intelligens?

Det var stinn brakke da forfatterdebutanten Inga Strümke lanserte boka Maskiner som tenker på realfagsbiblioteket til UiO 3. mai i år. Den handler om et av årets mest diskuterte temaer, som mange føler et stort behov for å vite mer om. Hvordan kan kunstig intelligens brukes, vil maskinene overta jobbene våre, kan de selv bli intelligente vesener? På scenen bekreftet Strümke sitt ry som en førsteklasses formidler av relativt komplisert stoff, framført med humørfylt entusiasme og treffsikker bruk av pedagogiske eksempler. Fra før har hun doktorgrad i partikkelfysikk og flere års forskningserfaring på kunstig intelligens. Det var lett å spå at boka ville bli en suksess, og i juli ble dette bekreftet av Bok365: «Skal vi tro bestselgerlistene er nok mange nordmenn eksperter på kunstig intelligens etter sommerferien […] nå melder forlaget at boken runder 31 000 i opplag».

Salget er det ingenting å si på, men at vi blir eksperter etter å ha lest boka, er nok en betydelig overdrivelse. Mye er komplisert, og mye er uavklart. Selv forskere som har jobbet med feltet i årevis, har store problemer med å forstå hvordan dagens maskinlæringsmodeller fungerer. Dette er faktisk et eget forskningsfelt (XAI), og hovedtemaet for Strümkes egen forskning.

Maskiner som tenker er en oversiktlig introduksjonsbok med tre hoveddeler: 1) Starten på det hele 2) Kunstig intelligens i dag, og 3) Kunstig intelligens i morgen. Hver del har i underkant av ti kapitler som alle er fullstappet med engasjerende historier, eksempler og problemstillinger. Det betyr ikke at alt er like lettlest.

Strukturert og interessevekkende

Forordet slår an tonen. Det starter rett på med historien om en ung kvinne som i 2018 ble påkjørt og drept av en selvkjørende bil under utprøving. Strümke bruker ulykken til å illustrere en rekke problemstillinger av teknisk, etisk og juridisk art som oppstår når maskiner overtar stadig flere oppgaver som til nå har blitt utført av mennesker. Hvordan kunne et gjennomprøvd dataprogram unngå å kjenne igjen et menneske på sykkel, bare fordi det hang noen plastposer på den? Hvem er ansvarlig når maskinene feiler? Hun lar spørsmålene henge, men tar dem opp igjen i bokas siste del.

Begrepet artificial intelligence ble lansert allerede i 1956. Forkortelsen AI er solid etablert overalt i forskningsmiljøet, og forfatteren bruker den gjennom hele boka. Derfor gjør jeg det også her, selv om mange foretrekker KI på norsk. Fagfeltet fikk en akselererende utvikling fra 1990-årene, i takt med stadig kraftigere datamaskiner. Da sjakkcomputeren Deep Blue i 1997 slo regjerende verdensmester Kasparov etter seks sjakkpartier, ble det en milepæl i AI-historien. Hendelsen førte til en kraftig økning i den allmenne interessen for AI, og det er en god innfallsvinkel når Strümke flere steder forklarer prinsippene for AI ved å ta utgangspunkt i sjakkcomputere.

Til tross for forenklinger, figurer og gode pedagogiske eksempler, kan kapitlet «Hvordan vi prøver å gjøre maskiner intelligente» bli litt tungt for en som ikke har forkunnskaper. Det finnes nemlig en rekke tilnærminger til AI, som alle må forklares: Symbolsk AI baserer seg på å definere symboler for maskinen, og lage eksplisitte regler for den. I løpet av de siste ti til 20 åra har imidlertid maskinlæring blitt den dominerende tilnærmingen, i takt med den rivende utviklingen av regnekraft og data. Nå er det maskinene selv som lærer seg å utføre oppgaver eller løse problemer. En av de mange variantene av maskinlæring er nevrale nettverk, som forklares ganske detaljert i boka. Når dagens maskiner gjenkjenner ansikter, lager kunst, skriver tekster eller lager falske data, er det takket være nevrale nettverk.

Også det neste kapitlet «Jakten på data» kan bli strevsomt for nykommere i statistikkens rike. Men de mange eksemplene på feilkilder gir et viktig innblikk i skumle resultater, som når AI blir brukt for å stille diagnoser, avgjøre forsikringssaker eller ansette de beste medarbeiderne til en bedrift.

Hvis det innimellom er krevende å følge noen detaljerte forklaringer, går det fint å skumlese mye i del 1. Den legger uansett et godt grunnlag for resten av boka, som omhandler AI i dag og i morgen.

Utfordringer i kø

En chatbot er en språkmodell som bruker AI for å forstå, lage og forbedre tekster. Da den avanserte ChatGPT ble tilgjengelig for folk flest rett før jul i fjor, ble det raskt en farsott å bruke chatboter, både som underholdning og til seriøse formål. Dette satte full fyr på diskusjonen om fordeler og farer ved AI, og bidro til en enorm interesse for temaet. På sosiale medier og i avisspaltene var det mange som ga AI strykkarakter for innholdet i det chatbotene svarte, for eksempel på spørsmålet «Hvem er [navnet ditt]?». Svaret var forbløffende godt formulert, men inneholdt gjerne fantasifulle og feilaktige opplysninger. Det er imidlertid en utbredt misforståelse å tro at en språkmodell er det samme som AI. I kapitlet «Er det noen hjemme?» forklarer Strümke hva som skjedde i november 2022:

[Det var] nå det eksploderte – med ChatGPT. [Den] er, som alle dens søstre, fabelaktig flink til å formulere seg, men den har ingen måte å undersøke om det den sier, er sant. Kort sagt er den god til å kommunisere, men elendig til å informere.

Her skriver hun nyansert og spørrende om konsekvensene for tekstforfattere og journalister, om eksamensjuks og opphavsrett. Kan AI ha opphavsrett til tekster, musikk eller bildekunst? Hva med opphavsretten til alle verkene som allerede er matet inn i maskinene når AI-verktøyene blir utviklet? I mange land er det reist søksmål om brudd på opphavsretten mot selskapene som eier chat-roboter. Mange lesere av Prosa ville sikkert ønske en større vekt på slike spørsmål i boka. Men denne diskusjonen utvikler seg nå eksplosivt, og stoffet kunne fort blitt utdatert. Da er det bedre å søke opp artikler om AI og opphavsrett på nettet.

Mer dyptgripende spørsmål som hvordan vi skal definere intelligens, bevissthet og tenking i lys av AI-utviklingen, blir nevnt, og etter mitt syn er det et klokt valg at forfatteren ikke graver seg for dypt ned i slike begrepsdiskusjoner. Plassen blir heller brukt på å vise hvor nyttig AI allerede kan være, og hvor galt det kan gå om vi ikke regulerer utviklingen i tide. For det må vi.

Framskritt og frykt

Under overskriften «Maskiner som skjønner mer enn vi gjør» får vi et fantastisk eksempel på at maskinlæringsmodeller har begynt å finne sammenhenger vi mennesker ikke vet om. I over 50 år har forskere strevd med å finne ut hvordan de ulike proteinene folder seg, etter at de er blitt produsert i kroppen vår. Spørsmålet er helt essensielt for å forstå hvordan disse grunnleggende byggesteinene i alt liv fungerer. Ved hjelp av AlphaFold (som er basert på sjakkmotoren AlphaZero), har vi i løpet av to år fått en komplett database over den tredimensjonale strukturen til flere hundre millioner proteiner. Dette er et sensasjonelt gjennombrudd innen mikrobiologi og medisin! Ekstra fascinerende er det at ingen foreløpig har forstått hvordan maskinlæringsmodellen har løst problemet. Hvilke sammenhenger finner den, som vi mennesker ikke vet om? Det er dette Strümke forsker på til daglig.

Men AI kan også skape livsfarlige situasjoner. Mange eksperter på AI har gjentatte ganger kommet med kraftige advarsler om at utviklingen kan komme ut av kontroll. AI kan brukes til å manipulere, ødelegge demokratier, felle regimer og lage virus som utsletter menneskeheten. Strümke viser en rekke eksempler på slike trusler, men har ingen bastante løsningsforslag ut over å ønske seg et godt lovverk og øvrig samfunnsmessig regulering.

EU er i gang, Norge henger etter

Populærvitenskap for voksne kan ofte være overforenklet, med banale spørsmål av typen «Kanskje du har hørt om atomer?». I den andre grøfta finner vi en strengt akademisk og tørr tone. Strümke har funnet balansen med sitt levende og uanstrengte språk. Hun er selv til stede i teksten uten å ta for stor plass, og bruker gode eksempler for å tilgjengeliggjøre vanskelig stoff. Boka er velskrevet, godt komponert og rykende aktuell. Selv om den løpende debatten om AI utvikler seg fort og det stadig dukker opp nye momenter, vil Maskiner som tenker gi et godt grunnlag for å følge med på det viktigste i lang tid framover.