Hva dette er
OpenAIs kommende modell, kalt Astra, skal bruke en teknikk kjent som 'recurrent depth' eller 'opaque recurrence'. I stedet for å resonnere i en lineær, trinn-for-trinn-rekkefølge – slik de fleste resonneringsmodeller gjør – behandler modellen den samme informasjonen i gjentatte sløyfer. Resultatet er at modellen etterlater færre lesbare spor etter seg, noe som gjør det vanskeligere å forstå hvorfor den kom frem til et bestemt svar.
Den vanlige kjede-av-tanker-loggen, kjent som 'chain of thought', har vært et viktig verktøy for å oppdage feil, avvik og uønsket atferd i AI-systemer. Dersom denne loggen blir ugjennomsiktig, mister virksomheter og utviklere et sentralt kontrollpunkt. OpenAI understreker at Astras bruk av teknikken foreløpig er begrenset, og at modellens resonneringsskritt fortsatt vil være lesbare. Selskapet har også varslet at overvåking av kjede-av-tanker forblir et kjernemål i forskningen fremover.
Likevel har nyheten skapt uro i AI-sikkerhetsmiljøet. Både Anthropic og Google DeepMind skal ifølge faglige kilder allerede diskutere den samme teknikken internt, noe som tyder på at dette kan bli en bredere bransjebevegelse – ikke bare et isolert eksperiment fra OpenAI.
Hva dette betyr for deg som ansatt
For de fleste ansatte vil denne nyheten ikke endre den daglige bruken av AI-verktøy på kort sikt. ChatGPT og tilsvarende produkter fungerer som de gjør, og Astra er ennå ikke i alminnelig bruk. Men nyheten er et viktig signal om at AI-systemers forklarbarhet ikke er noe man kan ta for gitt – og det berører alle som jobber med AI i beslutningsstøtte, rådgivning, tekstproduksjon eller analyse.
Ansatte i roller som HR, økonomi, prosjektledelse og salg bruker i økende grad AI til å sortere informasjon og foreslå løsninger. Dersom det blir vanskeligere å forstå bakgrunnen for AI-genererte anbefalinger, øker behovet for å stille kritiske spørsmål og etterspørre forklaringer. Det handler ikke om å slutte å bruke AI, men om å bruke det med større bevissthet.
Hva dette betyr for deg som bedriftseier
For bedriftseiere og ledere er dette en påminnelse om at AI-transparens ikke bare er et teknisk spørsmål – det er et styrings- og tillitsspørsmål. Virksomheter som har innført AI i interne prosesser, enten det gjelder dokumentanalyse, kundekommunikasjon eller rapportering, bør ha klare retningslinjer for hvilke beslutninger som krever menneskelig kontroll og begrunnelse. Jo mer ugjennomsiktig AI-en blir, jo viktigere er det med tydelige interne kjøreregler.