AI er klar. Er du?

Vi har brukt mye tid på å spørre hva AI kan gjøre. Kan den skrive teksten? Finne informasjonen? Analysere tallene? Oppdage noe vi selv har oversett? Men etter hvert som teknologien blir bedre, melder et vanskeligere spørsmål seg: Hvor mye er vi egentlig villige til å la AI gjøre for oss? For det er én ting å bruke AI som et verktøy. Det er noe helt annet å overlate deler av arbeidet til den. Når AI finner informasjon for oss, kan vi fortsatt selv vurdere hva informasjonen betyr. Men når AI begynner å analysere, se sammenhenger og anbefale hva vi bør gjøre, flytter vi også en del av vurderingen fra mennesket til teknologien. Og da skjer det noe interessant.

Spørsmålet handler ikke lenger bare om hva AI kan gjøre, men om hvorvidt vi stoler på det den gjør.

• Hva skal til før du er komfortabel med at en AI ikke bare finner tallene, men analyserer dem for deg?
• Hva skal til før du stoler på anbefalingen den gir?
• Og hva skal til før du en dag er villig til å la den handle på dine vegne?

Jo mer ansvar vi ønsker å gi AI, desto viktigere blir svarene på disse spørsmålene. Og kanskje ligger det et paradoks akkurat her. For det som ved første øyekast kan se ut som begrensninger på AI, sikkerhet, kontroll og tydelige rammer, kan vise seg å være nettopp det som gjør det mulig å la AI gjøre mer.

Fra informasjon til vurdering

Vi står midt i akkurat dette spørsmålet selv. Da vi begynte å bygge AI inn i Capassa, var mye av verdien relativt enkel å forstå. AI kunne hjelpe med å hente frem informasjon, forklare tall og gjøre eksisterende arbeid raskere. Men etter hvert har Capa fått en annen rolle. Hun kan analysere økonomiske data, se sammenhenger, oppdage avvik og hjelpe brukeren med å forstå hva som faktisk skjer i virksomheten. Det høres kanskje ut som en naturlig videreutvikling og teknologisk er det det. Men prinsipielt er spranget ganske stort.

For det er forskjell på å si: «Her er tallene dine.»

og: «Her er det jeg mener du bør være oppmerksom på, og dette er hvorfor.»

I det øyeblikket AI går fra å hente informasjon til å tolke den, øker også kravene vi må stille til teknologien rundt den.

Tillit kan ikke være en ettertanke

Hvis vi skal stole på en analyse, må vi vite hvor informasjonen kommer fra. Vi må vite hvilke data AI-en har tilgang til, og hvilke den ikke har tilgang til. Vi må kunne kontrollere hvem som får se hva. Vi må kunne følge hva som har skjedd. Og når AI etter hvert får mulighet til å utføre handlinger, må det være tydelig hvilke handlinger den kan gjennomføre selv og hvilke som krever menneskelig godkjenning. Det betyr tilgangsstyring, sporbarhet, logging, datakontroll og klare grenser for autonomi. Ikke fordi vi ønsker å begrense hva AI kan gjøre, men fordi vi ønsker å kunne stole på den når den gjør mer.

Hos oss er derfor AI-en ikke et frittstående system som får sende kundedata videre til tilfeldige eksterne tjenester. Den opererer innenfor kontrollerte rammer i Capassas systemer, med definerte tilganger og sikkerhetsmekanismer. Det er ikke den mest spektakulære delen av AI, men kanskje er det en av de viktigste.

BCG snur problemstillingen på hodet

Det er derfor jeg synes en fersk artikkel fra Boston Consulting Group er interessant. BCG tar opp akkurat dette paradokset: Mange virksomheter opplever governance som noe som bremser AI-utviklingen. Flere regler. Flere godkjenninger. Flere kontroller. Men BCG argumenterer for at vi kanskje tenker feil vei. God AI-governance skal ikke først og fremst gjøre det vanskeligere å bruke AI. Den skal gjøre det mulig å bruke mer AI, på en trygg måte. Når virksomheten på forhånd har bestemt hvilke data en AI kan bruke, hvilke beslutninger den kan ta, hva som skal logges, når mennesker skal involveres og hvor grensene går, blir det faktisk enklere å gi AI mer ansvar. Da blir governance ikke bare et spørsmål om compliance.

Det blir en muliggjører, og jo mer agentisk AI blir, desto viktigere tror jeg dette skillet kommer til å bli.

Fra assistent til agent

De fleste av oss har hittil møtt AI som en assistent. Vi spør. AI svarer. Men agentisk AI endrer dette forholdet. En agent kan få et mål, gjennomføre flere oppgaver, bruke ulike verktøy og komme tilbake med et resultat uten at et menneske trenger å instruere hvert enkelt steg. Det åpner et enormt mulighetsrom, men det endrer også spørsmålet vi må stille.

Det holder ikke lenger bare å spørre: Kan AI gjøre dette?

Vi må også spørre: Bør AI få lov til å gjøre dette alene?

Noen ganger vil svaret være ja, mens andre ganger vil vi at AI skal analysere og anbefale, mens mennesket tar beslutningen. Og i noen situasjoner bør AI ikke få tilgang i det hele tatt. Det interessante blir derfor ikke å maksimere autonomien, men heller finne riktig nivå av autonomi.

Kanskje tillit blir den virkelige konkurransefordelen

Vi snakker mye om hvor intelligente AI-modellene blir. Hvor raskt de resonnerer. Hvor mange oppgaver de kan løse. Hvor gode agentene blir. Men etter hvert som teknologien blir stadig bedre, tror jeg et annet spørsmål blir minst like viktig: Hvor mye tør vi å overlate til den? For hvis vi ikke stoler på AI-en, spiller det liten rolle hvor intelligent den er. Da kommer vi fortsatt til å kontrollere alt den gjør. Dobbeltsjekke analysene. Be et menneske godkjenne hvert steg, og da forsvinner mye av gevinsten. Det er derfor jeg tror sikkerhet og kontroll kommer til å bli langt mer enn et compliance-spørsmål i AI-æraen. Det blir en forutsetning for å hente ut verdien av teknologien. Den beste AI-en er kanskje derfor ikke den som får gjøre mest, men heller den vi tør å la gjøre mer.