So bewerten wir das Halluzinationsrisiko klinischer KI

Notats Nachweis ist kein magischer Genauigkeitsprozentsatz. Es ist eine transparente Methodik: zuerst klinische Fakten extrahieren, Notizen aus diesen Fakten erstellen, dem Kliniker den rohen Kontext zeigen und jede Ausgabe anhand der Evidenz überprüfen.

Bewertungsmethode

1. Build the reference facts

A reviewer reads the encounter material and creates a reference set of clinical facts: symptoms, negatives, medication changes, assessment, plan, safety-netting, and coding-relevant details.

2. Compare transcript-direct output

We generate a note from transcript-style input and mark unsupported statements, missing high-salience facts, incorrect attribution, and invented certainty.

3. Compare FactsContext output

We generate documentation from extracted facts and review whether each sentence is supported by a visible fact. The clinician-facing fact list is evaluated as part of the output, not hidden.

4. Record limits, not magic numbers

We do not publish fake accuracy percentages. Each evaluation note includes dataset scope, review date, known limitations, and examples of what the system still requires clinicians to verify.

Worauf Gutachter achten

Unsupported clinical assertion

Wrong medication, dose, frequency, or route

Missing red-flag negative or safety-net advice

Wrong diagnosis certainty: possible vs established

Wrong speaker attribution

Unsupported ICD-10 suggestion

Clinician-visible evidence for each key statement

Facts reusable for notes, codes, referrals, and patient instructions

Datierte interne Notiz

Aktuelle Bewertungsnotiz, 2026-07-01: Diese Seite dokumentiert die Methode und die qualitativen Beispiele, die zur Bewertung der FactsContext-Architektur verwendet werden. Sie beansprucht keine externe Validierung oder universelle Genauigkeit. Der nächste Nachweis-Meilenstein sollte eine verblindete, nach Fachrichtung stratifizierte Überprüfung sein, bei der Datensatzgröße, Übereinstimmung der Gutachter und die Rate unbelegter Aussagen offen berichtet werden.

Faktenextraktion vs. direkte Generierung aus Transkript

Medication change discussed twice

Risiko der direkten Transkript-Generierung

“Increase amlodipine to 10 mg and stop lisinopril.” The transcript contained a correction: the clinician first considered stopping lisinopril, then decided to continue it after reviewing renal function.

FactsContext-Ausgabe

Facts: amlodipine increased to 10 mg daily; lisinopril continued; renal function normal; review in 6 weeks. Note generated from those facts only.

Warum es wichtig ist

Transcript-direct generation can smooth over corrections. FactsContext preserves the final decision as a discrete fact before writing.

Negative finding matters

Risiko der direkten Transkript-Generierung

“No neurological symptoms.” The actual encounter only documented no saddle anesthesia and no bladder symptoms; leg radiation was present.

FactsContext-Ausgabe

Facts: left leg radiation to calf; SLR positive left; no saddle anesthesia; no bladder or bowel symptoms. Note keeps the negatives specific.

Warum es wichtig ist

Broad negative statements are risky. The fact list keeps the clinical context granular and reviewable.

Code suggestion requires evidence

Risiko der direkten Transkript-Generierung

Suggested J44.1 for COPD exacerbation without showing the symptom or treatment evidence.

FactsContext-Ausgabe

Facts: increased breathlessness, purulent sputum, prednisolone burst, antibiotics started. Suggested J44.1 with those facts as evidence.

Warum es wichtig ist

The code is easier to verify because the reason for the suggestion is visible, not buried in prose.

Bekannte Grenzen

Clinician review remains mandatory. Notat drafts; clinicians verify and sign.

The method reduces unsupported statements by architecture, but no clinical AI should claim zero hallucinations.

Small internal evaluations are useful for engineering direction, not a substitute for external clinical validation.

Specialty, language, audio quality, speaker overlap, and local coding rules can change performance.

Lesen Sie den Nachweis und prüfen Sie dann Ihre eigenen Fakten.

Die Bewertungsmethode ist einfach, weil das Produkt darauf ausgelegt ist, überprüfbar zu sein: zuerst Fakten, dann die Notiz, immer klinische Überprüfung.

Notat kostenlos testen