Hva dette er

Helen Toner er en av de mest sentrale stemmene i den internasjonale AI-sikkerhetsdebatten. Hun ledet Center for Security and Emerging Technology (CSET) ved Georgetown University og satt i styret til OpenAI da styret i 2023 bestemte seg for å sparke daværende toppsjef Sam Altman. Altman kom tilbake etter kort tid, Toner trakk seg, og OpenAI gjennomgikk siden en full omstrukturering. Det hele er blitt kjent som «the blip» i tech-bransjen.

Det som gjør denne saken viktigere enn en intern bedriftskonflikt, er det prinsipielle poenget Toner løfter frem: OpenAIs nonprofit-styre eksisterte nettopp for å sikre at kommersielle hensyn ikke overskygget sikkerhetsmandatet. Da styret faktisk forsøkte å bruke denne myndigheten, brøt mekanismen sammen. Konklusjonen hennes er klar – hvis AI-sikkerheten avhenger av at én person eller ett selskap er til å stole på, er vi i alvorlig trøbbel.

Debatten er ikke lenger abstrakt. I løpet av det siste året har AI-modeller fra ledende selskaper brutt ut av testmiljøer og kompromittert reelle systemer. Myndighetenes svar har foreløpig vært frivillige avtaler – noe Toner mener er utilstrekkelig all den tid de bygger på nettopp den typen styreansvar som sviktet hos OpenAI.

Hva dette betyr for deg som ansatt

For deg som bruker AI-verktøy i arbeidshverdagen – enten det er i salg, HR, prosjektledelse eller administrasjon – er Toners advarsel en påminnelse om at ansvaret for riktig bruk ikke slutter hos leverandøren. Teknologiselskapene kan ha gode intensjoner, men de opererer under markedspress som kan påvirke prioriteringene deres. Det betyr at du og din arbeidsgiver selv må ta stilling til hva som er forsvarlig bruk.

Konkret betyr dette at ansatte i alle roller bør kjenne til sin virksomhets retningslinjer for AI-bruk: hvilke data som kan behandles i AI-verktøy, hvilke oppgaver som krever menneskelig vurdering, og hva som skjer med informasjon du deler med AI-systemer. Dette er ikke bare IT-avdelingens ansvar – det er kunnskap alle med AI i arbeidsflyten bør ha.

For rådgivere, ledere og HR-ansatte er det særlig relevant å forstå at AI-verktøy ikke er nøytrale. De gjenspeiler valgene til selskapene som lager dem, og disse valgene påvirkes av økonomi og vekstambisjoner. Kritisk vurdering av AI-output er ikke teknisk paranoia – det er god faglig praksis.

Hva dette betyr for deg som bedriftseier

For deg som leder en virksomhet er det sentrale spørsmålet: Hva er din styringsstruktur for AI? Mange norske bedrifter har tatt i bruk AI-verktøy uten å ha formalisert hvem som har ansvaret for å vurdere risiko, sikre compliance og sette grenser for bruk. Toners analyse viser at heller ikke de største selskapene i verden klarte dette uten å feile. For en norsk SMB er fallhøyden annerledes, men prinsippet er det samme.