Hva dette er
Den amerikanske helseforsikringsorganisasjonen Blue Cross Blue Shield Association (BCBSA) har publisert en analyse som viser at sykehusenes bruk av AI-verktøy i forbindelse med forsikringskrav har ført til nesten 942 millioner dollar i økte helseutgifter over en toårsperiode. Analysen finner en markant økning i antallet pasienter som dokumenteres med komplekse tilstander – men uten at det er tilsvarende endringer i selve behandlingen som gis. Med andre ord: AI hjelper sykehusene med å kode journaler og krav mer detaljert, noe som resulterer i høyere utbetalinger fra forsikringsselskapene.
Kjerneproblemet er det BCBSA beskriver som et «tydelig gap mellom medisinsk koding og faktisk behandling». AI-verktøyene optimaliserer dokumentasjonen til fordel for den parten som bruker dem, uten at pasientene nødvendigvis får mer eller bedre behandling. Dette er ikke nødvendigvis bevisst misbruk – det er i stor grad en konsekvens av at AI brukes uten tilstrekkelig systemforståelse og styring på tvers av aktørene.
Situasjonen beskrives av bransjeaktører som en tidlig fase av det som kan bli et «bot mot bot»-scenario, der AI-systemer på begge sider av en forhandling eller prosess optimaliserer for ulike mål. Det er en utvikling som ikke er begrenset til helsesektoren – den er relevant for alle bransjer der AI brukes til å støtte beslutninger, dokumentasjon eller forhandlinger.
Hva dette betyr for deg som ansatt
For deg som jobber med dokumentasjon, rapportering eller saksbehandling er denne saken en nyttig påminnelse om at AI-verktøy optimaliserer for det de er satt til å gjøre – ikke nødvendigvis for det som er best for virksomheten eller kunden. Dersom du bruker AI til å utforme rapporter, kalkyler, tilbud eller saksdokumenter, er det viktig å forstå hva verktøyet faktisk er opplært til å vekte.
For ansatte i roller som rådgivning, HR, innkjøp, økonomi og prosjektledelse er det særlig relevant å tenke kritisk på AI-generert innhold. Verktøyene kan fremstille situasjoner mer fordelaktig enn det faktiske grunnlaget tilsier, uten at det er noen bevisst feilføring – det er ganske enkelt slik de er designet. Faglig skjønn og menneskelig vurdering forblir avgjørende.
En praktisk tilnærming er å stille spørsmål ved hva AI-verktøyet ditt er optimalisert for, og om det er i samsvar med virksomhetens faktiske mål. Det gjelder enten du bruker AI til kontraktsgjennomgang, prisargumentasjon, budsjettering eller kundekommunikasjon.