Den skjulte prisen for bekvemme KI-verktøy

Et nytt verktøy trenger ikke å overbevise alle på et møte. Noen ganger er det nok at det fjerner ett irriterende steg. Et sammendrag dukker opp i stedet for at noen må lese hele dokumentet. Et svarforslag tar plassen til den tomme e-posten.

Det kan være genuint nyttig. Nettopp derfor er det lett å overse prisen: Når arbeidet går raskere, kan beslutningen om hvilke opplysninger vi deler med hvem, forsvinne inn i samme bevegelse.

Min påstand er ikke at bekvemmelighet er farlig. Den er at bekvemmelighet uten avklarte grenser kan koste en virksomhet kontrollen over egne data.

Tekstfeltet inviterer til hele historien

Et tradisjonelt nettsøk tok ofte noen få ord. En KI-assistent ber gjerne om mer kontekst for å gi et bedre svar. Da blir det fristende å lime inn hele feilmeldingen, kundens e-post, et kontraktsutkast eller et møtereferat. Hver handling kan virke liten. Samlet blir de en ny vei ut av virksomheten for informasjon.

Det skjer ikke nødvendigvis etter et innkjøpsprosjekt eller en sikkerhetsvurdering. Funksjonen kan allerede ligge i nettleseren, kontorpakken eller et annet verktøy ansatte bruker. Grensesnittet føles som en samtale. Teknisk sett kan det likevel være en overføring til en ekstern tjeneste.

Dette er en redaksjonell observasjon, ikke en påstand om at alle KI-tjenester behandler data likt. Vilkår, innstillinger og avtaler varierer. Det er nettopp derfor de må undersøkes før virksomheten bestemmer hva som kan deles.

Ikke alle hemmeligheter er personopplysninger

Personopplysninger krever særlig omtanke. Men en bedrift kan også tape kontroll over prislister, kildekode, interne logger, forhandlingsposisjoner og planer som ikke nødvendigvis identifiserer én person. Spørsmålet «er dette persondata?» er derfor nødvendig, men ikke tilstrekkelig.

Hvis et verktøy skal behandle personopplysninger på virksomhetens vegne, må rollefordeling og avtale vurderes konkret. Datatilsynet forklarer når en databehandleravtale trengs. For øvrig fortrolig virksomhetsinformasjon må man i tillegg se på kontrakt, tilgang, lagring og hvem som faktisk får bruke opplysningene.

Det praktiske spørsmålet er ikke bare om et verktøy er «godkjent». Det er godkjent til hva, med hvilke data og hvilke tilkoblinger?

Et nytt KI-verktøy er også en ny leverandør

Et nettsted, en utvidelse og en liten knapp i et kjent program kan alle være innganger til en leverandørrelasjon. Før en virksomhet åpner for intern bruk, bør noen kunne svare på dette:

• Hva sendes ut når ansatte skriver i tekstfeltet eller laster opp filer?
• Hva sier den aktuelle avtalen om lagring, sletting, underleverandører og eventuell bruk til modellforbedring?
• Kan en administrator styre tilganger og koblinger til e-post, dokumentarkiv eller kode?
• Hvem følger opp når en ansatt slutter, eller en integrasjon ikke lenger trengs?

Dette er ikke en universell fasit eller en garanti for at risikoen er borte. Det er spørsmål som flytter beslutningen fra tilfeldige enkeltvalg til en ansvarlig prosess.

Noen ekstra steg er faktisk nyttige

Teknologibransjen snakker gjerne om å fjerne friksjon. Det er ofte et godt mål. Ingen savner unødvendig dobbeltarbeid. Men et lite opphold før en ny tjeneste får tilgang til felles e-post, er ikke nødvendigvis sløsing. Det er et kontrollpunkt.

Det samme gjelder å fjerne følsomme detaljer fra et eksempel, undersøke leverandørvilkår eller be om klarsignal før en integrasjon aktiveres. Slike steg må være enkle nok til at folk faktisk følger dem. En tung prosess som bare finnes på papiret, hjelper lite.

Jeg ville heller hatt tre forståelige regler som brukes, enn et langt dokument alle antar at noen andre har lest.

En regel som kan brukes på en travel tirsdag

En virksomhet trenger ikke starte med et utvalg for hver eneste KI-funksjon. Den trenger et kort svar på hvilke verktøy som er tillatt, hvilke oppgaver de passer til, hvilke data som ikke skal inn, og hvem som kan godkjenne nye koblinger. Ansatte må også vite hvem de kontakter hvis noe ble delt ved en feil.

Digitaliseringsdirektoratet råder virksomheter til å unngå sensitiv informasjon i instruksjoner til generative KI-verktøy. For den konkrete vurderingen ved tekstfeltet har Ponett en egen guide: Hva kan du trygt lime inn i KI-verktøy? En mer systematisk gjennomgang av innholdet i en policy finnes hos Kunnskapsrom.

Også NISTs frivillige rammeverk for generativ KI behandler dette som risikostyring gjennom hele bruken av teknologien, ikke som et enkelt ja eller nei til «KI». Det er en nyttig påminnelse, selv om en liten bedrift neppe trenger å innføre hele rammeverket.

Riktig mengde bekvemmelighet

Å forby alt kan gjøre arbeidsdagen dårligere uten å gi bedre oversikt. Å si ja til alt fordi det sparer tid, er heller ikke styring. Det interessante spørsmålet ligger mellom ytterpunktene: Hvilken hjelp gir verktøyet, og hvilken informasjon må vi gi fra oss for å få den?

Et forslag til overskrift for offentlig tekst er noe annet enn en kundedatabase. En oppsummering av en offentlig rapport er noe annet enn fri tilgang til dokumentarkivet. De forskjellene bør være forståelige for personen som sitter med oppgaven, ikke bare for den som skrev policyen.

Bekvemmelighet er ikke fienden. Ustyrt bekvemmelighet er problemet. Et par velplasserte stoppunkter kan være prisen som gjør at vi får beholde både farten og kontrollen.