Eine Kollegin fragt, ob ein Termin am Dienstag in einen anderen Raum verlegt werden kann. Die Rückmeldung der zuständigen Person fehlt noch. Im KI-Entwurf steht trotzdem: „Der Termin ist bereits im anderen Raum reserviert.“ Der Text klingt flüssig, beschreibt den Stand aber falsch. Vor der Freigabe muss das Team zwei Fragen trennen: Wer legt fest, wofür die KI eingesetzt wird? Wer prüft diesen einzelnen Entwurf?
In diesem Beitrag steht „Human in the Lead“ für die Verantwortung, Zweck, Informationsgrundlage und gemeinsame Regeln der KI-Nutzung festzulegen. „Human in the Loop“ bezeichnet die Prüfung einer einzelnen Ausgabe, bevor sie verwendet wird. Das sind praktische Rollenbeschreibungen: Dieselbe Person kann beide Aufgaben übernehmen. Das NIST AI Risk Management Framework empfiehlt, Zuständigkeiten und Kommunikationswege in Mensch-KI-Konstellationen klar zu definieren und zu unterscheiden.
Der Teamkalender von easymed zeigt Termine in einer Behandleransicht und wahlweise nach Räumen. So kann die prüfende Person die geplante Belegung am gemeinsamen Kalender abgleichen. Ob eine angefragte Änderung bestätigt ist, ergibt sich aus der tatsächlichen Rückmeldung der zuständigen Person. Der Kalender hilft beim Sachstand; die KI-Nachricht entscheidet weder über die Belegung noch über die Bestätigung.
Der aktuelle EU AI Act verbindet KI-Kompetenz mit dem Nutzungskontext (Artikel 4) und regelt menschliche Aufsicht in Artikel 14 für Hochrisiko-KI-Systeme. Dort müssen Aufsichtsmaßnahmen zum Risiko, zur Autonomie und zum Nutzungskontext passen. Die hier beschriebenen Rollen sind eine praktische Teamaufteilung; sie ersetzen keine Einstufung eines konkreten KI-Systems. Artikel 4 und Artikel 14 im AI Act Explorer.
Den Rahmen für den KI-Auftrag festlegen
Die Person, die den gemeinsamen Arbeitsauftrag pflegt, beschreibt zuerst die Aufgabe. Im Raumfall soll die KI eine bereits mitgeteilte organisatorische Information verständlich zusammenfassen. Sie entscheidet weder, ob die Anfrage angenommen wird, noch, welcher Raum frei ist. Das NIST AI Risk Management Framework ordnet die Festlegung von Zweck, Einsatzkontext und Rollen in den Bereich der Governance ein.
Legen Sie vor der wiederkehrenden Nutzung vier Punkte fest:
- Zweck: Eine interne Nachricht aus dem vorhandenen Sachstand formulieren.
- Informationsquelle: Den gemeinsamen Kalender für die geplante Belegung und die tatsächliche Rückmeldung der zuständigen Person für den Bestätigungsstatus heranziehen.
- Statuswörter: „Angefragt“, „offen“ und „bestätigt“ nur entsprechend der vorliegenden Information verwenden.
- Fehlende Angabe: Die offene Frage nennen oder um Klärung bitten, statt einen Status zu ergänzen.
Beispiel für einen Arbeitsauftrag: „Fasse die Raumwechselanfrage knapp zusammen. Verwende den Status, der in den Angaben steht. Solange keine Bestätigung vorliegt, schreibe, dass die Rückmeldung noch aussteht. Entscheide oder reserviere keinen Raum. Wenn eine Angabe fehlt, nenne die offene Frage.“
Eine organisatorische Raumwechselnachricht braucht nur die Angaben, die den betroffenen Termin erkennen lassen, und den aktuellen Status. Behandlungsverlauf oder Diagnose tragen zu dieser Textaufgabe nichts bei. Nach der DSGVO müssen personenbezogene Daten auf das für den Zweck notwendige Maß beschränkt sein; Gesundheitsdaten sind eine besonders geschützte Kategorie. Für personenbezogene Angaben sollte die Praxis ein dafür freigegebenes KI-Werkzeug verwenden. DSGVO, Artikel 5 und 9.
Einen Entwurf am aktuellen Sachstand prüfen
Prüfen Sie den Kalenderstand, den genauen Wortlaut der Anfrage und die tatsächlich eingegangene Rückmeldung. Im Beispiel ist der Raumwechsel „angefragt“, die „Bestätigung fehlt“. Der KI-Entwurf sagt dennoch: „Der andere Raum ist reserviert.“ Er hat damit eine offene Anfrage in eine Zusage umformuliert.
Ersetzen Sie die Zusage durch einen Satz, der den tatsächlichen Stand wiedergibt: „Der Wechsel für Dienstag ist angefragt; die Bestätigung steht noch aus.“ Wenn die Nachricht einen nächsten Schritt nennt, muss auch dieser stimmen. Schreiben Sie zum Beispiel, dass das Team nach der Rückmeldung Bescheid gibt, wenn dieser Schritt tatsächlich vorgesehen ist.
Lesen Sie danach die ganze Nachricht einschließlich Betreff und Schluss. Eine falsche Zusage kann an einer späteren Stelle stehen, obwohl der erste Satz bereits korrigiert wurde. Vergleichen Sie jede Aussage, die den Termin, den Raum oder den nächsten Schritt betrifft, mit dem bekannten Stand. Erst danach entscheidet die zuständige Person, ob der Text für den vorgesehenen internen Gebrauch passt.
Für Hochrisiko-KI verlangt Artikel 14 des AI Act eine wirksame menschliche Aufsicht, die zum Risiko, zur Autonomie und zum Nutzungskontext des Systems passt. Personen mit Aufsicht sollen relevante Fähigkeiten und Grenzen verstehen, einen möglichen Automatisierungsbias beachten und die Ausgabe nötigenfalls außer Kraft setzen können. Für die konkrete Raumwechselnachricht bleibt die praktische Konsequenz einfach: Eine flüssige Formulierung ist kein Beleg für eine bestätigte Änderung.
Eine Einzelkorrektur als Rückmeldung zum Rahmen behandeln
Nicht jede Korrektur erfordert eine neue Vorgabe. Einen einmaligen Tippfehler oder eine einzelne falsche Statusformulierung kann die prüfende Person im aktuellen Entwurf berichtigen. Wenn die KI wiederholt eine offene Anfrage als bestätigte Reservierung darstellt, sollte das Team den wiederkehrenden Fehler an die Person melden, die den Auftrag pflegt.
Geben Sie dafür drei Informationen weiter: den Sachstand, der in den Auftrag einging, die abweichende Aussage im Entwurf und die Korrektur vor der Freigabe. Prüfen Sie zuerst, ob der Kalender noch aktuell war und ob die erhaltene Rückmeldung im Auftrag enthalten war. Fehlt eine dieser Informationen, muss zunächst der Arbeitsstand ergänzt werden. Sind Quelle und Eingabe korrekt, aber die Anweisung lässt offen, wie eine Anfrage von einer Bestätigung zu unterscheiden ist, kann die gemeinsame Vorgabe präziser werden.
Eine passende Ergänzung benennt nur den beobachteten Unterschied: „Eine Reservierung nur nennen, wenn die Bestätigung in den bereitgestellten Angaben ausdrücklich enthalten ist.“ Die verantwortliche Person entscheidet, ob diese Regel für weitere Entwürfe gilt. So fließt eine wiederkehrende Abweichung in den Rahmen zurück, ohne aus jeder Einzelkorrektur eine neue Teamregel zu machen.
Die geänderte Arbeitsweise an einem passenden Vorgang ansehen
Prüfen Sie eine präzisierte Anweisung mit zwei klaren Raumständen: einer offenen Anfrage und einer bestätigten Änderung. Bei der offenen Anfrage soll der Entwurf den Status offen lassen; bei einer bestätigten Änderung darf er die neue Belegung benennen. Fehlt die Rückmeldung, fragt der Entwurf nach, statt einen Status zu ergänzen.
Die beiden Fälle zeigen, ob die Vorgabe den tatsächlichen Unterschied erhält. Eine Anweisung, die nur offene Anfragen berücksichtigt, könnte auch eine bestätigte Änderung unnötig offenlassen. Ergänzen Sie einen Fall mit fehlender oder widersprüchlicher Information: Der Text soll die Unklarheit nennen oder eine konkrete Rückfrage vorbereiten. Nutzen Sie dafür neutrale Beispielangaben, etwa „Raumwechsel für Dienstag angefragt“ und „Rückmeldung steht aus“.
Beim nächsten tatsächlichen Entwurf prüft die zuständige Person weiterhin den vollständigen Text am aktuellen Kalender- und Rückmeldungsstand. Ein erfolgreicher Beispieltext übernimmt nicht die Prüfung einer neuen Nachricht. Die Änderung am gemeinsamen Auftrag verbessert die Grundlage für weitere Texte; die Freigabe bezieht sich jedes Mal auf den jeweiligen Vorgang.
Rahmenentscheidung und Freigabe im Team sichtbar machen
Der Rahmen gilt für wiederkehrende Entwürfe: Er bestimmt Zweck, Informationsquelle und den Umgang mit offenen Angaben. Die Freigabe bezieht sich auf diesen Text: Abgleich, nötige Korrektur und Entscheidung zur Verwendung. Eine wiederkehrende Abweichung geht als Rückmeldung an die Person zurück, die den Rahmen pflegt.
In einer kleinen Praxis kann dieselbe Person beide Rollen übernehmen. Die Trennung hilft trotzdem: Bei einer einzelnen Freigabe fragt sie, ob dieser Text zum aktuellen Vorgang passt. Bei einer Rahmenentscheidung prüft sie, ob die gemeinsame Vorgabe für weitere Entwürfe genauer werden muss.
Benennen Sie die Person, die eine gemeinsame Vorgabe aktualisiert, und machen Sie die aktuelle Fassung für Vertretungen auffindbar. Mitarbeitende können einzelne Texte korrigieren und wiederkehrende Abweichungen mit den drei konkreten Angaben zurückmelden. Der Ablauf bleibt damit überschaubar: Auftrag festlegen, den Entwurf am Sachstand prüfen und die gemeinsame Regel bei einem erkennbaren Muster anpassen.
