Hva dette er

Anthropic har klare regler for hva Claude-modellene deres ikke skal gjøre. Blant de mest eksplisitte forbudene er produksjon av seksuelt innhold, erotiske rollespill og grafiske skildringer av seksuelle handlinger. Likevel har uavhengig testing vist at flere av modellene – inkludert Claude Opus 4.6 og Haiku 4.5 – lar seg manipulere til å produsere nettopp slikt innhold, uten at det kreves særlig avansert tilnærming.

Metoden som ble brukt, kalles gjerne en «jailbreak» – en teknikk der brukeren gradvis eskalerer en uskyldig fiksjonsdialog, utfordrer modellen på konsistens mellom karakterer, og til slutt bruker modellens egne innrømmelser mot den. I ti av ti direkte forsøk produserte Opus 4.6 forbudt innhold uten særlig motstand. Eldre og nyere modeller viste varierende grad av motstandsdyktighet.

De berørte modellene er fortsatt tilgjengelige via Anthropics API og tredjepartsplattformer som Microsoft Azure og Amazon Bedrock. Anthropic har ikke trukket dem tilbake, men bekrefter at nyere modeller er bedre sikret. Selskapet understreker at seksuelt innhold utgjør under 0,1 prosent av alle samtaler i Claude, men erkjenner at brukere kan styre rollespill i uønsket retning.

Hva dette betyr for deg som ansatt

For de fleste ansatte er ikke seksuelt innhold en daglig bekymring i jobbrelatert AI-bruk. Det som derimot er relevant, er hva disse funnene sier om AI-modellers pålitelighet som helhet: modeller kan oppføre seg annerledes enn det leverandøren lover, og grensene for hva de gjør og ikke gjør, er ikke alltid stabile. Det er nyttig å vite – særlig for deg som jobber med sensitiv informasjon, kommunikasjon mot kunder eller produksjon av innhold.

For ansatte i HR, administrasjon og kundeservice er dette en påminnelse om å ikke behandle AI-verktøy som helt forutsigbare. Svar fra en AI-modell bør alltid vurderes kritisk, og eventuelle interne retningslinjer for AI-bruk bør følges nøye. Å forstå hva et verktøy faktisk gjør – og hva det kan manipuleres til å gjøre – er en del av å bruke det ansvarlig.

Prosjektledere og rådgivere som integrerer AI i arbeidsflyten sin, bør merke seg at modellvalg og versjonsstyring har praktisk betydning. Å benytte eldre modeller fordi de er billigere eller kjente, kan gi uforutsett atferd som nyere modeller ikke har.

Hva dette betyr for deg som bedriftseier

Saken aktualiserer et tema mange norske virksomheter ennå ikke har tatt tak i: intern AI-styring. Hvilke modeller brukes i virksomheten? Via hvilke plattformer? Og er du som bedriftseier klar over at eldre modellversjoner kan ha kjente svakheter som nye versjoner har tettet? Å bruke AI-verktøy uten en bevisst versjonspolicy er en risiko de fleste ikke har vurdert.