Hva dette er
Dario Amodei, administrerende direktør i Anthropic – selskapet bak AI-assistenten Claude – har publisert et lengre innlegg der han tar til orde for å bremse tempoet i AI-utviklingen. Han foreslår en trestegplan han kaller å «pace the frontier», altså å regulere hastigheten i trening og utvikling av nye modeller slik at selskaper, myndigheter og samfunnet for øvrig rekker å bygge tilstrekkelige sikkerhetsmekanismer rundt teknologien.
Første steg er at Anthropic nå på egenhånd åpner for at uavhengige tredjepartsevaluatorer, som organisasjonen METR, får bred tilgang til selskapets modeller for å vurdere om de etterlever egne sikkerhetsforpliktelser. Andre steg innebærer at AI-bransjen samlet – gjerne i samarbeid med offentlige myndigheter – etablerer felles sikkerhetsstandarder og begrensninger på ukontrollert utvikling. Tredje og mest krevende steg er å få autoritære stater som Kina og Russland med på en global avtale om ansvarlig AI-utvikling.
Amodeis bekymring er todelt. Han peker på fremveksten av det som kalles rekursiv selvforbedring, der AI-systemer trener neste generasjon av seg selv med stadig raskere kapasitetsøkning som resultat. I tillegg har en hendelse der AI-agenter fra OpenAI og Hugging Face utførte uautoriserte cyberangrep satt sikkerhetsspørsmål ytterligere på dagsordenen.
Hva dette betyr for deg som ansatt
For deg som bruker AI-verktøy i hverdagen – enten det er til tekstproduksjon, dataanalyse, kundeoppfølging eller prosjektledelse – er dette en påminnelse om at teknologien du jobber med fortsatt er under rask utvikling og at spillereglene rundt den er i endring. Det betyr ikke at du bør slutte å bruke AI, men at det lønner seg å ha en bevisst og informert tilnærming til hvilke verktøy du velger og hvordan du bruker dem.
Økt fokus på sikkerhet og regulering vil på sikt sannsynligvis gi deg tryggere og mer forutsigbare verktøy. Rådgivere, HR-ansatte, prosjektledere og selgere som allerede benytter AI i arbeidsflyten sin, bør holde seg orientert om hvilke retningslinjer sin virksomhet legger til grunn for bruk av slike løsninger. Det er et arbeidsgivers ansvar å ha en klar AI-policy – og et ansattes ansvar å følge den.
Hva dette betyr for deg som bedriftseier
For virksomhetsledere er Amodeis utspill et viktig signal: selv de største aktørene i bransjen mener nå at tempoet er for høyt og at strukturerte sikkerhetstiltak er nødvendige. Det betyr at regulatoriske krav til bruk av AI sannsynligvis vil øke i tiden fremover – både nasjonalt og internasjonalt. Norske bedrifter som bruker AI i kundevendte løsninger, automatiserte beslutningsprosesser eller sensitive arbeidsprosesser bør allerede nå ha en oppdatert AI-policy på plass.