Korleis stiller forlaga seg til ein teknologi som kan effektivisere arbeidet, men også øydeleggje all tillit til verksemda deira?
Det kan vere vondt å skrive, det veit alle som har det som jobb. Dess nærare leveringsfristen kjem, dess sterkare blir trongen til å vaske badet, rydde i e-postboksen, lese produktskildringar og brukarmeldingar av alle kjende modellar av trykkokarar, gjere kva som helst som kan utsetje augneblinken der det berre er ein sjølv mot teksten, som heller ikkje denne gongen viser noko teikn til å bli det perfekte tankeproduktet ein drøymde om.
Så når det no finst ei maskin som kan fjerne denne pina og gjere jobben for deg, kanskje ikkje betre enn du ville gjort det sjølv, men etter kvart heller ikkje så mykje dårlegare, kvifor ikkje ta henne i bruk?
Kanskje var det noko slikt som vart starten på den no famøse utgjevinga av Lise vs. Gianni. Kampen om fotballens fremtid av Niels Røine på Cappelen Damm – utgitt 26. mai i år og trekt tilbake 1. juni. Boka kom like før fotball-VM, og det kom raskt fram, takka vere ein årvaken Jonas Hansen Meyer som melde boka for NRK, at delar av teksten var skriven av ein språkmodell.
Forlagsdirektør Sarah C.J. Willand var raskt ute og la seg flat og lova bot og betring. Men Cappelen Damm er ikkje åleine om å navigere i ein kvardag der bøker no kan produserast nesten utan at noko menneske er involvert.
Forfattar Tore Renberg har kalla den kunstige intelligensen for «djevelen». Korleis stiller forlaga seg til å få hjelp av han i verksemda si?
Snakkar mykje om det
Fleire store forlag har skaffa seg retningslinjer for KI-bruk, og nokre har også publisert dei på nettsidene sine. I retningslinjene til Kagge forlag står det til dømes at forlaget brukar KI i ulike delar av verksemda, men at forlaget forvaltar og publiserer åndsverk, og KI skal ikkje brukast til å erstatte den skapande rolla til forfattaren .
– Retningslinjene er ikkje laga ein gong for alle. Dei er eit verktøy som vi utviklar kontinuerleg. Eg trur vi snakkar om KI på kvart einaste leiarmøte i Kagge for tida, seier Sarah Sørheim, sjefredaktør for sakprosa i Kagge.
– Det viktigaste prinsippet, som vi aldri vil fråvike, er at alle bøkene vi lagar, skal starte og slutte med eit menneske. Og dersom ein bruker KI på eit eller anna nivå i arbeidet, skal det avklarast.
Sørheim fortel at forlaget prøver å skilje mellom uproblematisk KI-bruk og det som handlar om å skape originale åndsverk. Å seie kategorisk nei til KI er ikkje aktuelt, for i Kagge ser dei eit potensial for at det kan bli eit nyttig verktøy, når dei berre greier å finne ut korleis.
– KI skal ikkje generere sakprosateksten, der går det ei absolutt grense. Men å få KI-hjelp til å omarbeide tekst som allereie er skriven, til dømes med å lage innhaldsliste eller oppdage gjentakingar i teksten, det er noko anna. I den grad forlaget brukar KI-verktøy i manusarbeid, gjeld to viktige prinsipp: at vi berre brukar lukka modellar , og at vi må ha løyve frå forfattaren, seier ho.
Kagge har dessutan innført rutinar for kva dei skal gjere om dei får eit manuskript i hendene der det er teikn på utstrekt bruk av KI utan at forfattaren har opplyst om det.
– Det har vi enno til gode å oppleve, men det er naturleg å tenkje i dei banene. Vi prøver å sjå etter spor av KI i tekstane, seier ho.
Språktips som kan avsløre KI-generert tekst, er allereie blitt ein etablert sjanger. Sjølv har eg gått gjennom ei mindre identitetskrise etter at det kom fram at min kjære tankestrek no er blitt eit av dei sikraste teikna på at teksten ein les, er kunstig.
– Men på eit tidspunkt, og det tidspunktet er truleg allereie her, vil det vere vanskeleg for eit menneske å slå fast at ein tekst er produsert av eit menneske. Så vi må jobbe med utgangspunkt i at vi ikkje alltid kan vite det, seier Sørheim.
Det same gjeld hos Cappelen Damm. Etter at sommaren og fotball-VM vel er overstått, fortel avtroppande sakprosasjef Knut Ola Ulvestad på e-post at Lise vs. Gianni viser at dei treng nye reiskapar i verktøyskrinet.
– Når maskiner blir betre til å skrive, må vi bli betre til å lese. Vi må lære å betre kjenne att KI-generert tekst, seier han.
Difor er Cappelen Damm i ferd med å etablere ei kursrekkje i samarbeid med ein av dei fremste ekspertane på KI-språk i landet, fortel Ulvestad. Dei testar også ulike verktøy for gjenkjenning. Og dei vil innføre nye retningslinjer i haust, som mellom anna gjeld openheit og tydelege rammer om kva som er forsvarleg KI-bruk, og kva som ikkje er det.
– Delar av dette arbeidet bør skje i nært samarbeid med skribentorganisasjonane og bransjen elles, og med visse om at KI er eit bevegeleg mål der teknologien og moglegheitene for bruk endrar seg frå dag til dag, skriv Ulvestad.
Forbrukarrettleiing
I kjølvatnet av fotballbok-skandalen snakka Klassekampen med fleire Cappelen Damm-forfattarar som uttrykte forskrekking over at forlaget kunne sleppe igjennom eit slikt produkt. Simen Sætre, som i si tid tok initiativ til den etiske sjekklista for sakprosa, etterlyste eit sterkare engasjement frå NFFO i tillegg til større medvit hos forlaga.
Generalsekretær i NFFO Cathrine Sandnes fortel at dei jobbar med å få til ein dialog med Barne- og familiedepartementet (BFD) om ei KI-merkeordning for bøker. Forbrukarrettar høyrer til ansvarsområda til BFD.
– Vi meiner bøker der det er brukt KI, bør merkjast på same måten som retusjert reklame. Lesarane bør bli orienterte om kva for produkt dei vurderer å kjøpe. Er det brukt KI til omsetjing, til å generere tekst, til å lage omslagsillustrasjon, så bør det stå tydeleg.
– På framsida av boka, altså?
– Ja, på framsida. Forlaga viser jo til at dei skriv det i kolofonen. Men den er såpass gøymd at det nesten er ein yrkesløyndom. Og det som står der, er gjerne namnet på firmaet som er involvert, og då må lesaren vite at det dreier seg om eit KI-omsetjingsfirma, seier Sandnes.
I tillegg held NFFO på med ei evaluering av retningslinjene for prosjektstipenda dei deler ut, der forfattarane sin bruk av KI vil vere eit av elementa det skal takast stilling til.
– Her må ein skilje mellom KI brukt til research eller i tekstbehandling, og generative modellar. Vi korkje kan eller vil dele ut stipend til KI-generert tekst, seier ho.
Skråplanet
Er sakprosa særleg utsett for gråsonene for akseptabel KI-bruk? Det verkar som dei fleste er samde om at KI-generering av tekst er fy-fy i skjønnlitteraturen, der stemma til forfattaren sjølv er avgjerande for resultatet. Men kva med bøker der bodskapen er viktigare enn forma? Til dømes har Bonnier lenge brukt KI til å omsetje amerikansk sjølvhjelpslitteratur.
Cathrine Sandnes peikar på at slik praksis ikkje berre skapar utfordringar med opphavsretten til omsetjinga, ho fryktar også at hierarkiet mellom høgverdig og lågverdig litteratur, og dermed også mellom verdige og uverdige lesarar, vil bli forsterka.
– Eg trur nok faktabøker er meir sårbare for KI enn den klassiske dokumentarboka, som i høgste grad har ei særeigen forteljarstemme. Vi har ei lang rekkje norske forfattarar som skriv sakprosa som kan kallast skrivekunst. Men også kokebøker og strikkebøker har personleg tone, seier ho.
– Bonnier peika på at alternativet til KI-omsetjing ville vere at bøkene ikkje kjem ut på norsk i det heile?
– Enkelte av desse bøkene kom i opplag på opp mot 10 000, og greier dei ikkje å gjere slike utgjevingar lønsame, ville eg kanskje sett litt på korleis dei driv forlaget sitt, seier den tidlegare forlagsredaktøren Sandnes.
– Tanken om at barn og unge, eller lesarar av sjangerlitteratur, er lesargrupper som kan bli avfeidde med venstrehandsarbeid som ein kan spare pengar på, er feil veg å gå. Er det nokon det er viktig å gje gode lesaropplevingar, så er det dei som ikkje har ein ferdig utvikla identitet som lesarar.
Sakprosaforfattar og forlagsredaktør i Press Trygve Riiser Gundersen er ein av dei i bransjen som har uttala seg mest kritisk til KI. Han meiner det vil vere langt enklare å berre setje foten ned for å bruke KI til tekstarbeid enn å vurdere kvart enkelt tilfelle. Tenkjer ein at nokre former for KI-generert tekst er greitt, vil det ete seg inn på stadig fleire område, fryktar han.
– Du startar kanskje med å tenkje at det er greitt å bruke KI til å lage faktaboksar, eller kokebøker, og deretter sjølvhjelpsbøker, og deretter omsetje underhaldningslitteratur. Lise vs. Gianni er også ein type bok som ligg i dei lågare prestisjeklassene i litteraturhierarkiet, det var ei raskt produsert debattorientert bok som kom på marknaden opp mot VM. Men startar ein å tenkje slik, trur eg ikkje det er så lett å seie kvar det skal stogge, seier han.
KI som konkurransefortrinn?
Når så mange er samde om at KI ikkje bør blandast inn i åndsverk, kvifor skal ein sleppe det inn i bokbransjen i det heile? Er det med ei von om å spare tid og ressursar, eller vise at ein er frampå og ikkje står att på perrongen, som er biletet som stadig blir brukt i debattar om ny teknologi?
Lars Nygaard, forlagssjef i det vesle uavhengige forlaget Pangolin, trur ikkje det er stor skilnad på store og små forlag når det gjeld potensialet for å kutte kostnader med KI.
– Alle forlag er pressa på økonomi, og små forlag er like utsette for omdømmetap ved bruk av KI som dei store, meiner han.
Pangolin brukar ikkje KI i det heile i den redaksjonelle prosessen, fortel han, men dei utelukkar det heller ikkje. Den dagen kan kome då det vil vere nyttig, men det føreset at det skjer i samråd med forfattaren. Nygaard har også jobba med språkteknologi og maskinomsetjing i mange år. Han presiserer at det dreier seg om regelstyrte dataprogram og ikkje nevrale nettverk eller KI-språkmodellar som ChatGPT.
Det beste verktøyet for å motverke eit potensielt innsig av KI-skvip i litteraturen er å styrkje kritikken, meiner Nygaard. Han peikar på at det var ein kritikar som oppdaga Lise vs. Gianni-fadesen.
– Vi kan innføre merkjeordningar, men sjølv då kan ein jo aldri vite. Eg er veldig trygg på våre forfattarar, men bokbransjen er stor, og det trengst eit systematisk svar.
Nygaard meiner vi burde importere det danske systemet med materialvurdering, som han er stor tilhengjar av. Når ei bok blir vurdert innkjøpt til danske bibliotek, blir ho sendt til eit nettverk av såkalla lektørar. Lektøren skriv ei kort vurdering basert på visse kriterium, som så blir publisert på nettet. I 2025 vart over 4200 bøker, filmar og spel vurderte på denne måten i Danmark.
– Eit slikt system ville motverka alle tendensar til skvip.
Forvirrande KI-diskusjon
Førebels handlar KI-bruk i forlaga tilsynelatande mest om funksjonar som omsetjing og språkvask, der teknologien har fått store konsekvensar for heile yrkesgrupper. Spørsmålet om teknologien skal støtte eller erstatte mennesket, er sentralt når det gjeld skapande verksemd.
Men det er ikkje det einaste spørsmålet. I juni inviterte forleggjarforeininga og Grafill, interesseorganisasjonen for illustratørar og skaparar av visuell design, til debatt om forlaga sine haldningar til KI. Der peika forlagsdirektøren i Bonnier, Alexander Even Henriksen, på at debatten er vanskeleg fordi det eigentleg er snakk om mange ulike debattar som ikkje nødvendigvis heng saman. Han nemnde i fleng:
KI som trugsmål mot arbeidsplassar. Kvaliteten på KI-genererte produkt. Spørsmålet om autentisitet og kva det betyr for oss å vite om eit verk er menneskeskapt eller ikkje. Teknologiselskapa sin praksis med å trene språkmodellar på materiale som er underlagt opphavsrett. Korleis KI flyttar makt frå opphavspersonar til plattformer. Og kva KI-modellane sine innebygde estetiske preferansar gjer med våre forventingar i møte med eit verk. Alt dette er ulike ting som det blir vanskeleg å snakke om dersom ein har som utgangspunkt at KI ikkje høyrer heime nokon stad i kreative prosessar, meinte Henriksen.
– Våre retningsliner tek utgangspunkt i at forlag er avhengige av menneskelege erfaringar, stemmer og kunstnariske uttrykk, for det er det vi forvaltar. Vi trur ikkje KI kan erstatte det, men det kan støtte arbeidet. Og det er her det blir vanskeleg, for kva er assistert, og kva er generert? sa han .
Dette er ting ein må kome fram til i fellesskap, og det igjen krev vilje til openheit og dialog om KI-bruk, meinte Henriksen.
Trygve Riiser Gundersen har eit anna syn.
– I ei offentlegheit der vi har eit akutt problem med at vi blir overfløymde av tekst som vi ikkje kjenner opphavet til, må vi i forlaga kunne garantere at hos oss får de noko anna. De skal sleppe å uroe dykk: Her får de hundre prosent menneskeskapt tekst! seier han.
Slikt er lett å seie, men kva tyder det i praksis? Sidan september 2024 har rettleiinga til normalkontrakten for sakprosautgjevingar presisert at forfattar og forlag har ei gjensidig plikt til å på førehand opplyse om KI-bruk, anten det gjeld produksjonen av verket eller bruk av det ferdige verket i KI-tenester. Førebels opererer ingen forlag med noko kategorisk forbod mot å bruke KI i produksjonen av sakprosabøker.
– Formuleringane om gjensidig opplysingsplikt er eit godt første steg, seier Gundersen.
– Så tenkjer eg at dette er eit klassisk tilfelle av at ein bør starte med å ta tydeleg prinsipiell avstand, og heller mjuke det opp etter kvart. I staden for å gjere som vi ofte gjer når det gjeld teknologiske nyvinningar, og tenkje at no gjeld det å kaste seg på toget. Nei, no gjeld det å stå att på perrongen og vente og sjå! Det uroar meg at forlagsbransjen ikkje heilt ser ut til å innta den posisjonen.
Trur på openheit
Transparens i alle ledd er den generelle oppskrifta til alle vi snakkar med. Det inneber at forlaga må finne tilbake til røtene, meiner Gundersen. Han peikar på at forlaga oppstod i ein liknande situasjon på 1700-talet, då det ein kort periode var full trykkjefridom og kulturen, akkurat som i dag, vart overfløymd av det vi på godt norsk kallar ræl.
– I dag er den kulturelle posisjonen til forlaga så skrøpeleg at vi er nøydde til å vere utruleg tydelege på kva vi gjer som ingen andre gjer. Forlag er tillitsinstitusjonar, og vi har vore altfor dårlege til å vise korleis vi gjer oss fortent til tilliten og grunngjev at vi trengst. KI set dette på spissen, seier han.
I norsk samanheng er tillitsspørsmålet også eit spørsmål om pengar, fordi tilskotsordningar og momsfritak som i stor grad er tillitsbaserte ordningar, er så viktige i bokbransjen, hevdar han.
Gundersen viser til at nokre vitskaplege tidsskrift, i eit forsøk på å demme opp for flodbølgja av KI-genererte artiklar, har innført krav om tekstlogg.
– Det verkar nokså smart. Dess meir formalisert og streng ein er, dess meir får ein tydeleggjort kvar ansvaret skal plasserast. Og i ei tid der KI kan produsere veldig lesbar tekst, vil det bli endå viktigare å lage tekstar som er særprega og gjennomarbeidde, dei gode gamle kvalitetskriteria, seier han.
Hos Kagge snakkar dei for tida mykje om korleis dei kan forsterke samarbeidet med forfattarane og tilby eit fagleg og sosialt, menneskeleg fellesskap, fortel Sarah Sørheim.
– Korleis kan vi vere ein stad der forfattarane ikkje berre blir møtte av redaktørar, men av heile forlagsapparatet, også leiargruppa, dei som jobbar med kommunikasjon, designarane? Det er slik vi kan byggje tillit, og dermed også opne for å snakke ope til kvarandre om KI-bruk.
– Kva med oss lesarar? Kjem dette tillitsarbeidet til å sive ut i offentlegheita?
– Eg meiner heilt klart at offentlegheita må få meir innsyn i forholdet mellom forlag og forfattar, seier Sørheim.
Sjølv kom ho til Kagge frå mediebransjen, som lenge har hatt utfordringar med tilliten frå lesarane. Ho meiner det har gjort journalistikken betre.
– No har media ei heilt anna haldning til openheit. Mediesaker får ofte følgje av tekstar om etiske vurderingar, metodebruk og kjelder, slikt som tidlegare berre vart diskutert innomhus. Eg trur forlaga har mykje å vinne på å i større grad vise fram vurderingane våre, seier ho.
Samtidig går utviklinga så fort at ingen av dei vi snakkar med, trur at emnet vil vere utdebattert i oversynleg framtid. Kven veit kva som kan ha skjedd i tida frå denne teksten var ferdig, til han hamna i dine hender.
– Difor er det mange i forlaga som vel å ikkje delta i debatten, og det er heller ikkje bra. Ikkje minst av omsyn til forfattarane. Eg ønskjer meg lågare skuldrer og større openheit i forlaga. Så får vi heller risikere at dei tinga vi seier no, viser seg å vere heilt feil om eit år, seier Sørheim.
