KI gjør ikke fagfolk overflødige – den gjør dømmekraft viktigere

Dette er en kommentar. KI kan skrive, oppsummere og automatisere på sekunder. Men et svar som ser ferdig ut, er ikke det samme som et arbeid noen har vurdert og kan stå ansvarlig for. Jo mer vi automatiserer, desto viktigere blir fagfolk som kan stille spørsmål, oppdage feil og stoppe prosessen.

KI sparer meg mest tid etter at jeg har tenkt selv

Jeg bruker KI aktivt når jeg skriver. Arbeidsmåten som fungerer best for meg, er å lage et eget utkast først. Deretter bruker jeg KI som diskusjonspartner: Kan teksten strammes inn? Er argumentet uklart? Finnes det en bedre struktur?

Da hjelper verktøyet meg uten å overta utgangspunktet. Jeg beholder hensikten, erfaringen og vurderingen. KI bidrar med bearbeiding.

Problemet oppstår når jeg ber modellen finne ut hva jeg egentlig mener. Da fyller den lett tomrommet med det som statistisk ligner et sannsynlig svar. Resultatet kan være flytende og profesjonelt formulert, men likevel bomme på poenget.

Selvsikkerhet er ikke det samme som kompetanse

Generativ KI er svært god til å produsere språk som ser overbevisende ut. Det gjør feilene vanskeligere å oppdage enn en vanlig skrivefeil. En usikker kollega kan si at hun ikke vet. En språkmodell kan presentere et galt svar med samme rolige tone som et riktig svar.

Dette er ikke bare kritikk utenfra. OpenAI skriver selv at ChatGPT og andre språkmodeller kan gi uriktige eller villedende svar, finne på kilder og svare for sikkert på tvetydige spørsmål. Leverandøren anbefaler at viktig informasjon kontrolleres mot pålitelige kilder.

Derfor er det farlig å forveksle et godt formulert svar med en faglig konklusjon. KI kan foreslå. Den kan lete, sammenligne og strukturere. Men noen må vite hva som skal kontrolleres, hvilke kilder som er relevante, og hvilke konsekvenser en feil kan få.

«Menneske i løkken» kan bli et tomt ritual

Mange beroliger seg med at et menneske fortsatt godkjenner resultatet. Det er ikke nok i seg selv.

Hvis kontrolløren mangler fagkunnskap, ikke har tid til å undersøke kildene eller har vent seg til å trykke «godkjenn», er menneskelig kontroll bare et ekstra klikk. En reell kontroll krever at personen forstår oppgaven, kjenner begrensningene, har tilgang til grunnlaget og faktisk kan si nei.

Digdirs Prosjektveiviser beskriver det samme styringsprinsippet: Jo mer selvstendig en KI-løsning kan opptre, desto viktigere blir menneskelig kontroll, tilgangsstyring, logging, overstyring, avvikshåndtering og tydelig ansvar. Digdir understreker også at genererte svar må kontrolleres mot sikre kilder og faglige vurderinger.

Et menneske i løkken må altså være en kvalifisert bremse, ikke et gummistempel.

Automatiseringen blir farlig når den blir usynlig

Det er blitt enkelt å kjøpe et KI-abonnement, installere et verktøy og la det utføre gjentatte oppgaver. En agent kan våkne etter en tidsplan, lese status, oppsummere avvik og foreslå eller gjennomføre neste handling.

Hver enkelt automatisering kan virke fornuftig. Risikoen vokser når ingen lenger husker hele kjeden: Hvilke data leser den? Hvilke handlinger kan den utføre? Hva har endret seg siden den ble satt opp? Hvem får beskjed når noe går galt?

Daglige rapporter hjelper bare hvis noen leser dem kritisk. Godkjenningsspørsmål hjelper bare hvis «nei» er et reelt alternativ. En stoppknapp hjelper bare hvis noen vet når den skal brukes.

NISTs frivillige risikorammeverk for generativ KI behandler derfor styring som arbeid gjennom hele livsløpet, ikke som en engangskontroll ved innkjøp. Organisasjonen må styre, kartlegge, måle og håndtere risiko mens løsningen brukes og endres. Det er en mer realistisk modell enn å godkjenne verktøyet én gang og deretter glemme det.

Ledelsen beholder ansvaret

Min vurdering er enkel: En virksomhet beholder ansvaret for arbeidet den lar KI utføre. Ansvaret forsvinner ikke fordi feilen kom fra en modell, en chatbot eller en automatisert agent.

En kundechat må testes før lansering, men også etterpå. Spørsmål endrer seg. Produkter og regler endrer seg. Modellen kan tolke formuleringer annerledes enn forventet. Medarbeidere som tidligere svarte kundene direkte, kan få en ny oppgave: lage testtilfeller, kontrollere svar, oppdage mønstre i feilene og rette kunnskapsgrunnlaget.

Det betyr ikke at ingen stillinger vil forsvinne eller endres. Det vet vi ikke sikkert. Poenget er at KI ikke fjerner behovet for arbeid; den flytter mye av arbeidet fra produksjon til kontroll, forbedring og ansvar.

Når personopplysninger er involvert, er testing heller ikke bare et kvalitetsønske. Datatilsynet anbefaler virksomheter som kjøper eller bruker KI-systemer å gjøre risikovurderinger og teste løsningene regelmessig.

Det største tapet kan bli fagkompetansen

Jeg er minst like bekymret for en langsiktig risiko: at vi lar KI overta så mye av det kjedelige grunnarbeidet at ingen lenger lærer faget ordentlig.

Rutineoppgavene er ofte stedet der nye medarbeidere oppdager unntakene, lærer begrepene og bygger erfaring. Hvis alle førsteutkast, kontroller og enkle avgjørelser forsvinner inn i en modell, kan virksomheten samtidig miste treningsarenaen som gjorde erfarne medarbeidere erfarne.

Dette er en risiko og en hypotese, ikke en dokumentert skjebne. Men den bør vurderes før et helt arbeidsområde automatiseres. Hva skjer hvis tjenesten er utilgjengelig? Hvem kan kontrollere et uventet svar? Kan noen fortsatt utføre den kritiske oppgaven manuelt?

En virksomhet som ikke kan arbeide uten KI, og heller ikke kan kontrollere KI, har ikke effektivisert bort risikoen. Den har gjort seg avhengig av noe den ikke lenger forstår.

Seks regler for KI som arbeidsverktøy

1. Start med formålet. Beskriv oppgaven og ønsket resultat før verktøyet velges.
2. Tenk eller skriv først når egen stemme betyr noe. Bruk KI til å utfordre og forbedre et utkast, ikke til å gjette hva du mener.
3. Tilpass kontrollen til konsekvensen. Et forslag til møtetittel trenger mindre kontroll enn et kundesvar, en kontrakt eller en sikkerhetsendring.
4. Kontroller fakta i originalkilder. Et KI-svar kan være et startpunkt, men ikke dokumentasjonen.
5. Gi kontrolløren kompetanse og myndighet. Personen må forstå faget, ha tid til å undersøke og kunne stoppe eller overstyre.
6. Bevar evnen til å arbeide uten verktøyet. Dokumenter prosessen, øv på avvik og la medarbeidere fortsatt gjøre nok av grunnarbeidet til å forstå det.

Virksomheten bør i tillegg ha klare regler for hvilke opplysninger som kan deles med KI-verktøy. Ponett har tidligere gått gjennom hva du trygt kan lime inn i en KI-tjeneste.

KI er et verktøy, ikke en ansvarlig part

KI kan spare mye tid. Den kan gjøre skriving, analyse og rutinearbeid lettere. Jeg ønsker mer av den gevinsten, ikke mindre.

Men gevinsten varer bare hvis vi beholder kontrollen. Verktøyet kan produsere svaret og foreslå handlingen. Det kan ikke overta virksomhetens ansvar for konsekvensene.

Fremtidens mest verdifulle fagperson er derfor ikke nødvendigvis den som gjør alt manuelt. Det er den som forstår arbeidet godt nok til å bruke KI effektivt, oppdage når den tar feil og vite når den må slås av.