Kunstig demokrati

Lite ante vi, då redaktøren bestilte eit intervju med forfattarane av to ferske bøker om kunstig intelligens, sosiale medium og demokrati, at vi skulle få hjelp av sjølvaste Tromsø kommune til å illustrere temaet. Ein rapport om omlegging av skulestrukturen i kommunen kvilte på forsking som ved ettersyn viste seg å ikkje eksistere. Ein samtalerobot var blitt brukt i arbeidet med rapporten, og den hadde gjort som samtalerobotar har gjort før: generert vitskaplege kjeldereferansar som har alt ein kan ønskje seg, bortsett frå ei faktisk kjelde.

– Då tenkte eg på eit essay Ted Chiang skreiv for eit par år sidan. Der spådde han nettopp at det farlegaste med kunstig intelligens ikkje er at han kan finne på å utslette menneska for å effektivisere bindersproduksjon, men at KI blir det nye McKinsey, altså den instansen som styresmakter og selskap brukar for å rettferdiggjere sine upopulære avgjerder, seier forfattar og journalist Bår Stenvik.

Delegerer tankeverksemd
Stenvik kom nyleg med boka Hvem styrer feeden min? Kunstig intelligens, sosiale medier og kampen om oppmerksomheten vår, ein slags oppfølgjar av Det store spillet (2020), som også handla om korleis KI og algoritmestyrte medium endrar verda.

Om lag samstundes, og på same forlag (Cappelen Damm), kom Henrik Skaug Sætras bok Hvordan redde demokratiet fra kunstig intelligens. Sætra er førsteamanuensis i informatikk ved Universitetet i Oslo og har skrive i skjeringspunktet mellom teknologi, filosofi og statsvitskap gjennom heile yrkeslivet. I april, rett etter samtalen med Prosa var han i studio hos NRK for å diskutere Tromsø-saka med digitaliseringsminister Karianne Tung, som meinte at Tromsø kommune fortente ros «både for å ta i bruk teknologien, men også for å være åpne og reagere raskt når det viser seg at feil har blitt gjort». Dei hallusinerte kjeldereferansane vart oppdaga ved eitt tilfelle. Hendinga gjorde at kommunen måtte starte gransking av fleire saker, i fall liknande «feil» skulle ha skjedd utan at nokon oppdaga det.

Sætra trur ikkje nødvendigvis vi kjem til å merke skilnaden når vi byrjar å sette ut tankeverksemda til KI.

– Eg har testa generativ KI i skriving nokså mykje, og det vart berre noko heilt anna, noko som ikkje var mitt. Eg finn ut av ting gjennom å skrive, så for meg var det veldig merkbart. Men dersom du er saksbehandlar i ein kommune, har dårleg tid på ein rapport og tek ChatGPT til hjelp, så er det ikkje sikkert du merkar at evna di til å skrive slike rapportar eller trekke ut essensen av tekstar, blir dårlegare, seier han.

Vinnarar og taparar
Slik kan KI bli nok ei skiljeline i klassesamfunnet, trur han.

– Eg er redd det kan bli sosiale forskjellar mellom dei som tek vare på konsentrasjonsevna, og dei som ikkje gjer det. Ein ser det allereie når det gjeld skjermbruk generelt: Ved skular på vestkanten i Oslo er foreldra gjerne samde om å vere restriktive med skjermbruk for borna, andre stader er det mindre medvit om det, seier Sætra.

For Stenvik illustrerer Tromsø-saka også korleis KI kan forsterke problem som alltid har eksistert ved å skalere dei opp.

– Uetterretteleg maktbruk har alltid vore der, men det har vore litt tungvint. Med KI blir maktubalansen som allereie finst i systemet, sett på steroid. Det same med desinformasjon: Tidlegare måtte nokon sitte og dikte opp historiene og redigere bileta. No kan du berre trykke på ein knapp og få det gjort i enorm skala.

Til saman spenner dei to bøkene opp eit stort lerret, for KI er jo ikkje éin ting: Det kan vere alt frå system som kjenner att tidlege teikn på demens i hjerneskanningar, til system som samlar, analyserer og rangerer informasjon om befolkninga og bruker dei i saksbehandling, til språkmodellane i samtalerobotar, til algoritmane som avgjer kva du ser på nettet. Og bakom lurer spørsmåla om kven som eig og styrer systema, kven som tener på dei, og kven som tapar.

Fanga av Snapchat
Stenvik byrja å skrive Hvem styrer feeden min etter å ha vore rundt på skular og snakka med elevar om Det store spillet.

– Der møter eg ein generasjon som får all informasjonen sin frå sosiale medium. Og det er mykje snakk i skulen om nettvett, om å passe seg for «fake news» og ikkje dele nakenbilete, men dei får inga systematisk innsikt i kvifor feeden ser ut som han gjer. Det er det eg no har prøvd å skrive forståeleg om, seier han.

Om sosiale medium berre var forferdelege, ville det vore enklare å regulere dei, men slik er det jo ikkje. Stenvik nemner kor annleis ungdomstida hans kunne vore om han som 14-åring i Bygde-Noreg, med sære interesser, hadde hatt tilgang til TikTok og eit globalt fellesskap av andre menneske med dei same sære interessene – sjølv om han rett nok måtta ha kjempa ein stadig kamp mot algoritmane for å finne dei.

Ungdommane han har møtt, brukar mange timar kvar dag på sosiale medium, men mange gjev også uttrykk for at dei eigentleg ikkje vil det.

– Men dei kjende seg fanga av til dømes Snapchat, som dei er heilt avhengige av for å ha kontakt med venene sine. Det får meg til å tenkje at dersom så mange unge ikkje føler dei har frie val i eige liv fordi dei blir styrte av ei teknologisk overmakt, då må det vere vår demokratiske plikt å prøve å hjelpe dei, seier Stenvik.

I bøkene etterlyser både Sætra og Stenvik ei større vektlegging av føre-var-prinsippet og meir medvit om maktforholda i og rundt teknologien. Då er ikkje mest mogleg KI raskast mogleg vegen å gå, meiner dei. No heiter det seg til dømes at EU er ein KI-sinke fordi dei driv med regulering som hemmar innovasjon, medan USA ikkje regulerer og difor vinn KI-kappløpet.

– Men då gløymer ein at reglane i USA er laga for å tene dei store monopolselskapa og stenge folk inne på deira plattformer. No er mange misnøgde med at vi er så avhengige av amerikanske system, og den misnøya kan opne for teknologisk innovasjon i Europa som kan gje oss større fridom på nettet og på sosiale medium. Om berre politikarane har mot og initiativ til det, seier Stenvik.

Hamne på feil tog
Sætra peikar på at KI ikkje berre effektiviserer det vi har frå før, men også tilfører noko nytt.

– For no blir KI-system i større grad partnerar som kan erstatte menneske, ikkje berre formidle og vere filter mellom menneske, seier han.

– Samstundes er det interessant korleis ny teknologi gjennom alle tider er blitt møtt med påstandar om at dette blir forferdeleg og vil føre til moralsk forfall.

At uetterrettelege KI-system skal kunne skalte og valte med informasjonsinfrastrukturen vår, som er så viktig for demokratiet, er noko dei færraste ønskjer seg. Samtidig er det mange, med digitaliseringsminister Tung i spissen, som aktivt ønskjer seg meir bruk av KI i både offentleg forvalting, utdanning og næringsliv.

Kvar kjem denne klokkartrua på at KI any day now skal fikse alt for oss, frå?

– Eg trur det er ei ibuande frykt for at vi vil hamne bakpå, seier Sætra.

– Det kan vere dei verkeleg trur at KI skal bli den nye olja og gje verdiskaping og vere eit fortrinn for Noreg. Og så ser vi jo at det blir fleire eldre, og at ting blir dyrare, det skjer reelle demografiske og økonomiske endringar som fører til at offentleg sektor må bli meir effektiv. Eg trur det er ein kombinasjon av dette som driv denne trua. Pluss ein grunnleggande teknologioptimisme.

Stenvik legg til:

– Både Henrik og eg har peikt på at alle som er redde for at vi skal bli ståande att på perrongen når KI-toget går, dei er tydelegvis ikkje så redde for at vi kan hamne på feil tog.

Prisen for effektivisering
Når vi har funne måtar å effektivisere prosessar på, har dei negative følgjene først vist seg lenge etterpå, minner Stenvik om. Moderne tekstilproduksjon har gitt oss mikroplast i havet, store klimagassutslepp og eit enormt søppelproblem. Det effektive jordbruket har gitt oss utarming av jorda, tømt landsbygda for folk og øydelagt det biologiske mangfaldet.

– Vi veit enno ikkje heilt kva følgjeproblema av KI vil vere, og det bør vi tenkje igjennom, seier han.

Sjølv har Stenvik testa kva som kan skje når ein brukar generativ KI slik digitaliseringsministeren truleg meiner det bør brukast: Til å effektivisere enkel og kjedeleg saksbehandling. Han bad ChatGPT om å inkarnere, først ein eksperimentell scenekunstnar som skulle søke tilskot til eit prosjekt frå Kulturdirektoratet, og så ein saksbehandlar som skulle gje eit godt grunngitt avslag på søknaden.

– Så køyrde eg nokre rundar fram og tilbake mellom dei. Men det som skjedde – bortsett frå at den tenkte kunstnaren og saksbehandlaren ikkje fekk utvikla sine eigne evner – var at for kvar runde vart teaterstykket i prosjektsøknaden meir og meir likt ein Disney-film, seier han.

Det har truleg å gjere med kva for kunstnariske preferansar som ligg i materialet KI-en er trent på. Stenvik trur slikt vil vere vanskeleg å fange opp, sjølv om nokre har åtvara mot det.

– Det er lett å tenkje at eg berre skal be KI lage eit førsteutkast, og så kan eg flikke på det etterpå. Men då vil modellane få leggje premissa for våre ytringar. Når du har brukt dei lenge nok, blir du berre ein plug-in på toppen av maskinen.

Demokratimaskiner
Mange drøymer om at KI skal effektivisere byråkratiet, men kan det hjelpe oss med å effektivisere sjølve demokratiet? I boka si presenterer Sætra korleis det kan sjå ut. KI-laboratoriet Google DeepMind har til dømes eksperimentert med KI-system som skal kome fram til optimale demokratiske avgjerder ved å samle inn folk sine preferansar i ulike saker og gjere avvegingar mellom dei. Eller ein kan tenkje seg at kvar av oss kan få sin eigen KI-assistent som veit kva vi meiner om alt, og som vi sender ut i verda for å delta i politikken på våre vegner, medan vi sjølve kan bruke tida på betre ting.

I Sætras tankeeksperiment fungerer dette systemet perfekt reint teknisk. Likevel oppdagar personen i dømet etter kvart at KI-assistenten hennar har stemt for ein del ting ho sjølv ikkje heilt forstår. Og ho oppdagar at ho saknar å snakke med andre menneske om politikk, og kanskje tenkje nytt om saker ho trudde ho hadde teke standpunkt til.

– I teorien kan ein abstrahere mange av elementa ved demokratiet og prøve å fikse dei med KI. Og det kan vere kjempebra om folk får meir direkte tilgang til demokratiske prosessar ved hjelp av teknologi. Samstundes ser eg ein fare for at vi då mister noko verdifullt, fordi det skjer noko fysiologisk med menneske når dei møtest og snakkar saman, seier Sætra.

– Demokrati er frykteleg knotete, slitsamt, frustrerande og vanskeleg. Men det er også ein skule i å forstå både samfunnet og kvarandre, som både har verdi i seg sjølv og også har vist seg over tid å gje ganske gode resultat. Det risikerer vi å miste når vi prøver å effektivisere vekk knotet.