Når KI på legekontoret gjør feil: hvorfor Notat bygger notater fra fakta først

NRK har omtalt bekymring for KI på legekontoret. Poenget er viktig: Når et system skriver klinisk tekst som høres riktig ut, men inneholder avvik, blir feilen vanskeligere å oppdage. I helse er ikke dette et kosmetisk problem. Det handler om pasientsikkerhet, ansvar og tillit.

Vi bruker ikke NRK-saken som en påstand om Notat. Vi bruker den som en påminnelse om hvorfor arkitekturen bak klinisk KI betyr noe.

Problemet med transkripsjon rett til journaltekst

Mange KI-skrivere starter med en transkripsjon og ber en språkmodell skrive et notat direkte fra samtalen. Det kan se imponerende ut i en demo. Men kliniske samtaler er rotete: pasienten retter seg selv, legen vurderer flere alternativer, medisiner diskuteres to ganger, og viktige negative funn kan bli nevnt kort.

Når modellen skriver rett fra en rå transkripsjon, kan den glatte over usikkerhet, gjøre vurderinger mer bastante enn de var, eller blande sammen et forslag med den endelige planen. Teksten kan fortsatt høres profesjonell ut.

FactsContext™: fakta først, notat etterpå

Notat er bygget annerledes. Vår patent-pending FactsContext™-motor trekker ut strukturerte medisinske fakta først:

• symptomer og varighet
• relevante negative funn
• funn ved undersøkelse
• legemidler og endringer
• vurdering og plan
• ICD-10-relevante detaljer
• sikkerhetsnett og oppfølging

Deretter lages notatet fra disse faktaene. Ikke rett fra rå transkripsjon.

Det viktigste: legen ser råfaktaene

Notat viser de rå medisinske faktaene til klinikeren. Det betyr at legen kan lese notatet og samtidig se hvilket faktagrunnlag notatet bygger på. Spørsmålet «hvor kom denne setningen fra?» skal ha et svar.

Dette er kjernen i FactsContext:

• KI-en forstår konsultasjonen før den skriver.
• Notatet genereres fra fakta, ikke fra gjetning.
• Faktaene er synlige og kan brukes videre til koding, henvisning, pasientoppsummering eller journaltekst.
• Legen vurderer og signerer alltid.

Hva vi ikke påstår

Ingen seriøs klinisk KI bør love null feil. Notat erstatter ikke klinisk skjønn, og legen må alltid lese gjennom før bruk. Derfor publiserer vi heller ikke pyntede nøyaktighetstall uten metode.

Det vi kan si tydelig, er dette: En KI-skriver som viser det medisinske faktagrunnlaget bak notatet, er langt enklere å kontrollere enn en som bare leverer ferdig prosa.

Derfor er FactsContext en bedre sikkerhetsmodell

Når pasientsamtalen først blir til strukturerte fakta, får klinikeren et kontrollpunkt før journalteksten brukes. Det gjør gjennomgangen raskere og mer konkret:

• Er faktaene riktige?
• Mangler noe viktig?
• Er vurderingen støttet av det som faktisk ble sagt?
• Er koden støttet av dokumentasjonen?

Det er denne arbeidsflyten vi mener klinisk KI må bevege seg mot: fakta først, åpenhet alltid, legekontroll til slutt.

Les mer om FactsContext™, vår kliniske evalueringsmetode, eller sammenlign Notat med andre løsninger på sammenligningssiden.