Die Praxisleitung fragt einen Softwareanbieter nach einer KI-Funktion. Die Antwort lautet: „Unser Produkt ist AI-Act-konform.“ Für die Praxis bleibt offen, ob diese Aussage den tatsächlich geplanten Arbeitsschritt abdeckt. Bei einer Textentwurfsfunktion sieht eine Person den Vorschlag vor dem Versand; eine zusätzliche Automatik könnte eine Nachricht selbst auslösen.
Eine gute Rückfrage bindet die Auskunft an genau diese Funktion, den verwendeten Produktstand, den geplanten Einsatz und eine passende Anleitung. So lässt sich prüfen, ob die Antwort den vollständigen Arbeitsweg erklärt und welchen konkreten Beleg der Anbieter dafür nennt.
Ein klar beschriebener KI-Arbeitsweg findet sich auch in der Berichtshilfe von easymed: Mit eingerichtetem KI-Zugang wählen Sie vorhandene Behandlungstexte und Ihre eigene Vorlage aus. easymed erstellt daraus einen Entwurf. Die zuständige Fachkraft liest ihn gegen, bearbeitet ihn bei Bedarf und gibt den Bericht frei; das Dokument wird in der Patientenakte gespeichert. Dieser Ablauf zeigt, wie ein KI-Ergebnis als Entwurf in eine fachliche Freigabe eingebunden ist.
Die erste Antwort am geplanten Arbeitsweg prüfen
Im Beispiel erstellt die Praxis mit einem externen KI-Dienst eine organisatorische Terminerinnerung. Bisher liest eine zuständige Person den vollständigen Nachrichtentext, kann ihn bearbeiten und entscheidet anschließend über den Versand. Der Anbieter stellt zusätzlich einen automatischen Versand vor. Auf die Frage, wie der Entwurf vor dem Versand geprüft wird, kommt nur: „Das Produkt ist AI-Act-konform.“
Vergleichen Sie die Antwort mit dem angefragten Schritt: Sie wollten wissen, ob jemand den Text vor dem Versand sehen, ändern und den Versand verhindern kann. Die Antwort sagt bislang nichts dazu. Notieren Sie genau diese Lücke. So bleibt die Rückfrage bei der Funktion, die den Arbeitsweg tatsächlich verändert.
Eine solche Einordnung braucht keinen Fragenkatalog zu jeder denkbaren KI-Anwendung. Starten Sie mit einer Nachricht, einem Empfängerkreis und einem konkreten Ablauf. Für eine spätere Funktion oder andere Inhalte prüfen Sie die Beschreibung gesondert.
Funktion und Produktstand präzisieren
Schreiben Sie Bezeichnung der Funktion, Produktstand oder Bereitstellungsdatum und den Link zur passenden Funktionsbeschreibung auf. Nennen Sie, ob Sie die KI als Entwurfshilfe nutzen oder ob das System den Versand auslösen soll. Eine Versionsnummer ist hilfreich; fehlt sie, können Datum und genauer Dokumenttitel die Antwort verankern.
Beschreiben Sie dann den geplanten Einsatz in einem Satz: Aus bestätigten organisatorischen Angaben soll eine allgemeine Nachricht entstehen; im bisherigen Ablauf sieht eine Praxisperson den vollständigen Text und entscheidet vor dem Versand. Die neue Funktion soll möglicherweise selbst versenden. Diese Angaben halten den Gegenstand der Rückfrage fest, ohne eine gewünschte Antwort vorzugeben.
Wenn der Anbieter eine konkrete Funktion in einer Anwendung mit einem extern bereitgestellten Modell verbindet, fragen Sie, ob seine Aussage die von Ihnen genutzte Anwendung samt diesem Ablauf umfasst oder nur das zugrunde liegende Modell. So können Sie Anfrage und Antwort auf dieselbe Funktion beziehen.
„AI-Act-konform“ genau einordnen
Artikel 3 der KI-Verordnung definiert die Zweckbestimmung als Verwendung, für die ein System laut Anbieter vorgesehen ist. Dazu gehören die besonderen Umstände und Bedingungen, die in Betriebsanleitungen, Werbe- oder Verkaufsmaterialien, Erklärungen und technischer Dokumentation beschrieben werden. Vergleichen Sie diese Angaben mit dem Einsatz, den Sie planen.
Der Artikel unterscheidet außerdem Anbieter und Betreiber. Beim Prüfen einer Aussage ist daher hilfreich zu klären, wer sie abgibt und auf welche Rolle oder Systemebene sie sich bezieht. Eine Anwendung kann mehrere Funktionen und technische Bestandteile verbinden; der Produktname allein zeigt nicht, welcher Teil geprüft oder beschrieben wurde.
Auch der Rechtsbegriff „Konformitätsbewertung“ ist genauer gefasst: Die Verordnung meint damit ein Verfahren zur Bewertung der Anforderungen an ein Hochrisiko-KI-System. Artikel 6 und die Hinweise der Europäischen Kommission knüpfen die Einstufung an konkrete gesetzliche Kriterien und den vorgesehenen Zweck der Funktion. Fragen Sie deshalb, welche konkrete Anforderung oder Einstufung die Aussage meint, auf welche Funktion sie sich bezieht und in welchem Dokument der Anbieter sie erläutert. Eine allgemeine Aussage wird dadurch zu einem prüfbaren Bezug für Ihre Praxis.
Eine zweite Rückfrage mit einem klaren Prüfpunkt formulieren
Nennen Sie zuerst die offene Funktionsfrage und bitten Sie um den dazu passenden Arbeitsweg. Für das Beispiel kann die zweite Anfrage lauten:
„Bezieht sich Ihre Aussage zur AI-Act-Konformität auf die automatische Versandfunktion in dieser aktuellen Beschreibung? Unser geplanter Ablauf nutzt bestätigte organisatorische Angaben für eine Terminerinnerung. Kann eine zuständige Praxisperson den vollständigen Nachrichtentext vor dem Versand sehen, bearbeiten und den Versand verhindern? Bitte nennen Sie den vorgesehenen Ablauf und den Abschnitt der passenden Anleitung. Falls Sie sich auf eine bestimmte Einstufung oder Anforderung beziehen, nennen Sie bitte auch die dafür maßgebliche Funktion und den zugehörigen Beleg.“
Die Anfrage trennt die Funktionsfrage von der rechtlichen Einordnung. So kann der Anbieter jede Antwort einem eigenen Gegenstand zuordnen: dem Bedienweg, der beschriebenen Funktion oder der konkret gemeinten Regelung.
Antwort, Anleitung und tatsächlichen Ablauf abgleichen
Lesen Sie Anbieterantwort und Anleitung am selben Produktstand. Prüfen Sie, ob der verlinkte Abschnitt die angefragte Funktion wirklich beschreibt und ob er zeigt, wann eine Praxisperson den vollständigen Text sieht, welche Änderungen sie vornehmen kann und wie sie den Versand verhindert.
Ein Hinweis auf den manuellen Entwurf beschreibt noch nicht den Prüfweg einer automatischen Versandfunktion. Benennen Sie den offenen Punkt deshalb ausdrücklich: „Die Anleitung erklärt den manuellen Entwurf; der Prüfweg vor dem automatischen Versand fehlt.“ Damit ist klar, welcher Abschnitt oder Bedienhinweis noch gebraucht wird.
Wenn die Antwort den Schritt erklärt, kann die Praxis den beschriebenen Ablauf mit dem geplanten Einsatz vergleichen und ihren nächsten Schritt festhalten. Bleibt der Prüfweg offen, fragen Sie genau diesen Punkt erneut oder verwenden Sie zunächst den beschriebenen Entwurfsweg, bei dem die zuständige Person vor dem Versand prüft. Der bekannte Weg bleibt damit verständlich dokumentiert.
Datenverarbeitung gesondert klären
Eine Aussage zum AI Act klärt nicht automatisch, welche Daten die Funktion verarbeitet. Wenn personenbezogene Angaben oder Informationen zur Gesundheit in die KI-Funktion eingehen, fragen Sie getrennt, welche Eingaben an welche beteiligten Systeme übermittelt werden, wer sie verarbeitet und wie lange sie gespeichert bleiben. Die DSGVO führt Gesundheitsdaten als besondere Kategorie personenbezogener Daten auf; wenn ein Anbieter Daten im Auftrag der Praxis verarbeitet, beschreibt Artikel 28 die dafür nötige vertragliche Regelung. Für einen Funktionstest genügen Beispielwerte statt identifizierbarer Patientendaten.
Geklärte Antworten für spätere Änderungen auffindbar halten
Bewahren Sie Anfrage, Antwort, Datum, Funktionsbezeichnung, Produktstand und passende Anleitung gemeinsam am vereinbarten Ort auf. Ergänzen Sie knapp, welcher Arbeitsweg für die Praxis vorgesehen ist und an welcher Stelle die zuständige Person den Entwurf prüft.
Ändert sich die Funktion, vergleichen Sie die neue Anbieterinformation mit genau diesem Bezug: Betrifft die Änderung den Versand, den Prüfpunkt, die Eingaben oder die angegebene Regelung? So kann das Team gezielt die betroffene Stelle erneut klären und den bekannten Ablauf korrekt einordnen.
Eine konkrete Rückfrage macht aus einer allgemeinen Anbieteraussage eine nachvollziehbare Entscheidungshilfe. Sie verbindet die KI-Funktion mit dem geplanten Einsatz, dem tatsächlichen Bedienweg und dem Beleg, auf den sich die Antwort stützt.
