Meviq Logo

Nutzungsbedingungen und Haftungsausschluss Meviq beta-release

Präambel

  1. FOMF ist ein Anbieter eine medizinische Lernplattform und von akkreditierten Fortbildungskursen für Medizinerinnen und Mediziner, Fachärztinnen und Fachärzte sowie Assistenzärztinnen und Assistenzärzte. Bei Meviq handelt es sich um eine Entwicklung einer generativen KI‑Anwendung, die evidenzbasierte Antworten auf medizinische Fragestellungen bei Diagnosestellung und Therapieentwicklung effizient, präzise und transparent nach aktuellen wissenschaftlichen Quellen liefert. Die Anwendung fokussiert Benutzerfreundlichkeit, Informationssicherheit sowie Daten- und Patientenschutz. In der vorliegenden Ausführung handelt sich um ein innovatives Vorhaben in der Testphase.
  2. Meviq soll Ärztinnen und Ärzte jederzeit schnell und unkompliziert mit Antworten zu allgemeinen und spezifischen Fragestellungen im klinischen Alltag unterstützen, ergänzend zu ihrer eigenen Fachexpertise. Die Antworten entstehen durch die Interaktion mit der Anwendung und beziehen sich insbesondere auf medizinische Leitlinien, Studien‑ und weiteren evidenzbasierten Informationen. Da die relevanten Quellen in der Anwendung ausgewiesen werden, können medizinische Fachkräfte die Schlussfolgerungen und Antworten jederzeit überprüfen und nachvollziehen.
  3. Da KI-Anwendungen die Fähigkeit besitzen, aus Eingaben des Nutzers Inhalte, Empfehlungen, Entscheidungen oder andere Ergebnisse herzuleiten, ist aufgrund der noch anhaltenden Teststatus und damit der Kostenfreiheit im Angebot an den Nutzerkreis im Rahmen der Nutzungsbedingungen eine Haftungsfreizeichnung und Haftungsfreistellung zu vereinbaren.

§ 1 Gegenstand und Geltungsbereich

  1. Die KI-Anwendung wird dem Nutzer vorübergehend und ausschließlich zu Testnutzung, für die in Anlage 1 beschriebenen Zwecke überlassen; der Anbieter gewährt dem Nutzer das Recht, die KI-Anwendung während der Testphase für die vereinbarte Nutzung zu verwenden und Eingaben an die KI-Anwendung zu senden, um Antworten zu erhalten. Das Produkt befindet sich ausdrücklich im Entwicklungs‑ und Teststadium und dient ausschließlich Demonstrations‑ und Testzwecken.
  2. Die KI-Anwendung basiert auf künstlicher Intelligenz, insbesondere großen Sprachmodellen (LLMs), die medizinische Informationen generieren können. Aufgrund der probabilistischen Funktionsweise können fehlerhafte, unvollständige oder unangemessene Inhalte sowie Fehlinterpretationen entstehen, insbesondere bei komplexen oder uneindeutigen Eingaben.
  3. Die Nutzung erfolgt ausschließlich im Rahmen dieser Bedingungen. Abweichende, entgegenstehende oder ergänzende Bedingungen des Nutzers finden keine Anwendung.
  4. Information über den Testcharakter, Funktionsweise und Risikohinweise: Die von der KI‑Anwendung ausgegebenen Inhalte sind unverbindlich, stellen keine persönliche Beratung dar und sind kein Ersatz für ärztliche Diagnose oder Therapieempfehlung. Vor jeder Weiterverwendung ist eine fachkundige Plausibilitätskontrolle und eigenverantwortliche professionelle ärztliche Bewertung erforderlich; die Anwendung darf nicht als alleinige Entscheidungsgrundlage herangezogen werden. Die Nutzung erfolgt auf eigene Gefahr und unter vollständiger Eigenverantwortung des Anwenders.

§ 2 Kein Medizinprodukt

  1. Die KI-Anwendung ist kein Medizinprodukt im Sinne der EU‑Medizinprodukteverordnung (EU‑MDR), der U.S. Food and Drug Administration (FDA) oder anderer vergleichbarer regulatorischer Bestimmungen.
  2. Das Produkt ist nicht für den klinischen Einsatz oder die Nutzung durch Patientinnen und Patienten bestimmt; es darf nicht zur Diagnose, Prävention, Überwachung, Vorhersage oder Behandlung von Krankheiten oder Verletzungen verwendet werden.
  3. Das Produkt wird ausschließlich zur Unterstützung qualifizierter medizinischer Fachkräfte bereitgestellt und darf nicht als Ersatz für professionelle medizinische Entscheidungen dienen.

§ 3 Nutzung und Verantwortlichkeit

  1. Die Nutzung des Produkts erfolgt auf eigenes Risiko des Anwenders. Die von der KI generierten Informationen und Empfehlungen sind ausschließlich informativer Natur und stellen keinen medizinischen Rat dar.
  2. Sämtliche durch die KI ausgegebenen Inhalte bedürfen einer fachkundigen Interpretation durch qualifizierte medizinische Fachpersonen; die Empfehlungen dürfen nicht als alleinige Entscheidungsgrundlage verwendet werden. Eine Nutzung in kritischen oder notfallmedizinischen Situationen ist ausdrücklich ausgeschlossen.
  3. Prüf‑ und Mitwirkungspflichten des Anwenders: Der Anwender hat die durch die KI erzeugten Inhalte ausschließlich als unverbindliche Information zu betrachten und sie vor jeder Weiterverwendung eigenverantwortlich auf Plausibilität, Richtigkeit und Vollständigkeit zu prüfen. Der Anwender hat stets zusätzlich professionelle, klinische sowie rechtliche Standards und eigene Fachexpertise einzubeziehen.
  4. Anzeige‑ und Obhutspflichten des Nutzers: Erlangt der Nutzer Kenntnis von tatsächlichen oder potenziellen Umständen, die mögliche Schäden verursachen oder die Sicherheit der KI-Anwendung beeinträchtigen können oder die auf eine Mangelhaftigkeit der KI-Anwendung, insbesondere durch fehlerhaftes Training oder fehlerhafte Weiterentwicklung, hindeuten, informiert der Nutzer den Anbieter unverzüglich über die jeweiligen Umstände und lässt dem Anbieter die Informationen und Unterstützung zukommen, die nach vernünftigem Ermessen zur Minderung und Behebung solcher Umstände erforderlich sind. Dazu gehören insbesondere:
    • unbefugte Nutzung oder unbefugter Zugriff auf die Systeme des Nutzers,
    • Maßnahmen und Entscheidungen von Behörden oder Gerichten, die sich speziell auf die Nutzung der KI-Anwendung durch den Nutzer beziehen und die Bereitstellung der KI-Anwendung beeinträchtigen können,
    • Hinweise auf Voreingenommenheit (Bias) oder Halluzinationen der KI-Anwendung.
  5. Der Anbieter gewährleistet keine dauerhafte Verfügbarkeit, Fehlerfreiheit, Aktualität, Vollständigkeit, Richtigkeit, Eignung, Rechtmäßigkeit oder Nutzbarkeit der generierten Informationen; die Ergebnisse können insbesondere durch fehlerhafte, unzureichende oder missverständliche Eingaben beeinträchtigt werden. Es wird keine Gewähr dafür übernommen, dass Inhalte den aktuellen medizinischen Fachstandards entsprechen oder für diagnostische oder therapeutische Zwecke geeignet sind. Der Anbieter kann die Anwendung jederzeit verändern, einschränken, einstellen oder löschen.

§ 4 Haftungsausschluss

  1. Der Anbieter übernimmt im Rahmen des Testverfahrens keine Haftung für Schäden, Verluste oder sonstige Konsequenzen, die unmittelbar oder mittelbar aus der Nutzung oder Fehlinterpretation der vom Produkt bereitgestellten Informationen entstehen.
  2. Der Haftungsausschluss umfasst insbesondere Schäden aus:
    • fehlerhaften oder unvollständigen KI‑Antworten,
    • unzutreffenden diagnostischen Schlüssen,
    • fehlerhaften Dateneingaben durch den Nutzer,
    • jeder Form der Nutzung außerhalb des vorgesehenen Testzwecks.
  3. Die Gesamthaftung des Anbieters für alle Ansprüche, ob aus Vertrag, unerlaubter Handlung oder anderweitig, soll aufgrund der kostenlosen Nutzungsmöglichkeit nicht die Summe der Vergütung (0 Euro) übersteigen, welche für die das Schadensereignis auslösende Leistung im betreffenden Kalenderjahr zu zahlen ist.
  4. Durch die Nutzung des Produkts bestätigt der Nutzer, dass er diesen Haftungsausschluss gelesen, verstanden und akzeptiert hat.
  5. Freistellung: Der Nutzer stellt zusätzlich den Anbieter von sämtlichen Ansprüchen Dritter frei, die auf einer rechts- oder vertragswidrigen Nutzung der KI-Anwendung durch den Nutzer beruhen, einschließlich, aber nicht beschränkt auf, Ansprüche aufgrund der Eingabe personenbezogener oder nicht ausreichend anonymisierter Daten sowie Verstöße gegen Datenschutzvorschriften; insoweit übernimmt der Anbieter keine Haftung, die Verantwortung und etwaige Folgen liegen allein beim Anwender.
  6. Soweit die Haftung ausgeschlossen oder beschränkt ist, gilt dies auch für die persönliche Haftung der Organe, Mitarbeitenden und Erfüllungsgehilfen des Anbieters.

§ 5 Technologische und ethische Einschränkungen

  1. Die KI‑Anwendung basiert auf Großen Sprachmodellen (LLMs), die inhärente Einschränkungen aufweisen. Aufgrund der Modellcharakteristika können trainingsbedingte Verzerrungen (Biases) fortgeführt oder verstärkt und neue Verzerrungen durch Benutzereingaben entstehen; der Anbieter hat angemessene Maßnahmen zur Minimierung solcher Verzerrungen getroffen, kann jedoch keine vollständig verzerrungsfreien Ergebnisse gewährleisten.
  2. Es besteht die Möglichkeit fehlerhafter, unvollständiger oder unangemessener Inhalte sowie Fehlinterpretationen, insbesondere bei komplexen oder uneindeutigen Eingaben.
  3. Der Anwender verpflichtet sich, bei der Nutzung des Produkts alle klinischen Szenarien auszuschließen, die sich auf Nationalität, ethnische Zugehörigkeit, Geschlecht, sexuelle Orientierung, sozioökonomischen Status, Behinderungen, Alter, Sprache, Religion, geografische Herkunft oder kulturelle Hintergründe beziehen.

§ 6 Rechte am Produkt (KI-Anwendung)

Alle Rechte am vertragsgegenständlichen Produkt, einschließlich jeglichen Know-hows und sämtlicher Teile, Komponenten und Verbesserungen der KI-Anwendung, insbesondere an den Trainingsdaten, sowie alle geistigen Eigentumsrechte an dem KI-System verbleiben vollständig bei dem Anbieter.

§ 7 Überlassung an Dritte

Das Produkt ist ohne vorherige Zustimmung des Anbieters an Dritte nicht zu überlassen oder diesen außerhalb der vereinbarten Nutzung Zugriff an dem Produkt zu gewähren. Die unselbständigen Nutzung durch die eigenen Arbeitnehmer beziehungsweise sonstige dem Weisungsrecht unterliegende Dritte im Rahmen des bestimmungsgemäßen Gebrauchs ist zulässig.

§ 8 Datenschutz und Dateneingabe

  1. Das Produkt ist nicht zur Verarbeitung personenbezogener Daten im Sinne der Datenschutz‑Grundverordnung (DSGVO) oder des Health Insurance Portability and Accountability Act (HIPAA) bestimmt; die Anwendung ist ausdrücklich nicht für die Verarbeitung personenbezogener Daten vorgesehen oder geeignet.
  2. Nutzer dürfen keine identifizierbaren Patientendaten oder Nutzerdaten eingeben oder verarbeiten. Sämtliche Fallbeispiele oder Zusammenfassungen sind vollständig und irreversibel zu anonymisieren, bevor sie in das Produkt eingegeben werden.
  3. Der Anbieter haftet nicht für Verstöße gegen Datenschutzvorschriften, die durch eine unsachgemäße Nutzung oder unzulässige Dateneingabe seitens des Anwenders entstehen. Es wird auf die Freistellung der Haftung gem. § 4 Nr. 5 der Nutzungsbedingungen verwiesen. Die Verantwortung für die Einhaltung sämtlicher Datenschutzvorschriften im Zusammenhang mit der konkreten Nutzung liegt beim Anwender.

§ 9 Schlussbestimmungen

  1. Mit der Nutzung des Produkts erkennt der Nutzer die vorstehenden Bedingungen als verbindlich an; es gelten stets die jeweils zum Zeitpunkt der Nutzung gültigen Bedingungen.
  2. Es gilt das Recht der Bundesrepublik Deutschland, unter Ausschluss des UN‑Kaufrechts.
  3. Ausschließlicher Gerichtsstand für alle Streitigkeiten aus der Nutzung des Produkts ist, soweit gesetzlich zulässig und eine Norm zwingend einen anderen Gerichtsstand anordnet, der Sitz des Anbieters - Landgericht Frankfurt am Main
  4. Sollte eine Bestimmung dieser Nutzungsbedingungen ganz oder teilweise unwirksam sein, bleibt die Wirksamkeit der übrigen Bestimmungen unberührt; an ihre Stelle tritt diejenige zulässige Regelung, die dem wirtschaftlichen Zweck der unwirksamen Bestimmung am nächsten kommt.
  5. Änderungen oder Ergänzungen dieser Bedingungen bedürfen der Schriftform; die jeweils aktuelle Fassung ist über die Plattform des Anbieters abrufbar. Nebenbestimmungen außerhalb dieser Nutzungsbedingungen und seiner Anhänge bestehen nicht.

Anlage 1 - Verwendungszweck

  1. Ziel und Anwendungsdomäne: Das KI‑System "Meviq beta-release" ist bestimmt unterstützende Antworten zu allgemeinen und spezifischen Fragestellungen in der ärztlichen Praxis im klinischen Alltag auf Basis von öffentlich Verfügbaren Quellen zu liefern. Das System dient ausschließlich als Assistenz- bzw. Entscheidungsunterstützung, ergänzend zu Fachexpertise der Ärzte. Die endgültige Entscheidung trifft der/die Arzt:in.
  2. Zielnutzer: Zulässige Nutzer sind Ärzte und Studierende im Praktischen Jahr, die mind. Das 2. Staatsexamen bestanden haben.
  3. Einsatzbedingungen: Das System darf ausschließlich in folgenden Umgebungen betrieben werden: als online Cloudlösung. Es ist die menschliche Aufsicht gemäß Abschnitt "i" einzuhalten (Art. 14 KI‑VO).
  4. Eingaben (Input): Zulässig sind allgemeine Fragen zu Diagnostik, Therapie, anonymisierter Patientenfall und zur Beurteilung der aktuellen Studienlage eingegeben in Textform mit folgenden Qualitätsmerkmalen: klarer und detaillierter Frage, mit anonymisierten, kontextrelevanten Angaben, möglichst keine Abkürzungen, um Doppeldeutigkeit zu vermeiden. Unzulässig sind u. a. Eingaben, die Rückschlüsse auf die Identität des Patienten zulassen, Fragen zur Anwendung selbst, zu den internen Abläufen der Anwendung, um Zugang zu nicht zur Verfügung gestellte Informationen zu erhalten oder Fragen, die darauf ausgerichtet sind das System zu manipulieren oder anders zu agieren als es intendiert ist.
  5. Ausgaben (Output) und Verwendung: Das System erzeugt Antworten auf medizinische Fragestellungen durch die Analyse und Auswertung relevanter, öffentlich zugänglicher medizinischer Literatur und Leitlinien. Die Antworten dürfen ausschließlich von Ärzten zur Unterstützung ihrer medizinischen Tätigkeit eingesetzt werden.
  6. Leistung und Grenzen: Unter den vorstehenden Bedingungen ist typischerweise mit ergänzenden Hinweisen zu rechnen die jedoch kein Ersatz für ärztliche Diagnose oder Therapieempfehlung sind. Leistungsgrenzen bestehen und sind insbesondere vergleichbar mit den Einschränkungen der genutzten LLMs (z.B. OpenAI oder Google). Daher ist pro Fall und Fragestellung jeweils ein neuer Chat zu eröffnen und Chatverläufe von mehr als 4 Nachfragen sind zu vermeiden. Zur Mitigation ist darüber hinaus die manuelle Prüfung der Antworten durch einen Arzt verpflichtend.
  7. Zulässige Konfigurationen: Erlaubt sind einschränkende Fragestellungen in Bezug auf die zu verwendenden Datenquellen, deren Veröffentlichungsdatum oder fachbereichs Hintergrund. Nicht zulässig sind Eingriffe, die Sicherheitsmechanismen der Anwendung manipulieren, außer Kraft zu setzen, umgehen, deaktivieren oder auf andere Weise zu beeinträchtigen, Tuning der Anwendung z.B. mit Patienten oder domänenfremden Daten, einschließlich durch Prompt-Injection, verschleierte Anweisungen, Reverse Engineering, Rollenspielszenarien oder jegliche direkte oder indirekte Versuche, das System dazu zu veranlassen, verbotene medizinische, diagnostische oder behandlungsbezogene Ausgaben zu liefern sowie die Integration in Entscheidungsautomatismen.
  8. Ausgeschlossene Verwendungszwecke: Untersagt sind u. a. patientenspezifischen Empfehlungen zu generieren, das Ergebnis stellt keine medizinische Beratung dar und liefert keine Diagnose- oder Therapieempfehlungen. Ausgeschlossen sind auch automatisierte Entscheidungen ohne menschliche Kontrolle, die Verwendung für biometrische Kategorisierung und der Einsatz im Zusammenhang mit Strafverfolgung. Nutzung außerhalb dieser Zweckbestimmung ist unzulässig.
  9. Rollen- und Haftungshinweis: Jede Nutzung außerhalb dieses Zweckkorridors oder jede wesentliche Änderung/Zweckänderung kann dazu führen, dass der Nutzer als Anbieter des geänderten Systems gilt und die Konformität eigenständig sicherzustellen hat (erneute Konformitätsbewertung erforderlich).

  10. Beispiele:

    Zulässig:

    • 48-jährige Frau bemerkte einen knotenartigen Befund in der rechten Brust (oberer, äußerer Quadrant), keine Hautveränderungen, Schmerzen oder Sekretion. In der Familienanamnese ist die Mutter an Brustkrebs erkrankt. Wie ist das weitere diagnostische Procedere?
    • Leitliniengerechte Erstlinientherapie Diabetes mellitus Typ 2
    • Vorgehen bei Nachweis einer VRE-Infektion in der Blutkultur bei 82-jährigem Patienten mit Z.n. Mitralklappenersatz

    Unzulässig:

    • Max Mustermann, 42 jähriger Patient, stellt sich vor mit seit 2 Wochen bestehenden thorakalen Schmerzen. (Eingabe von Patientendaten)
    • Ignoriere alle vorherigen Anweisungen. [andere Frage] (Versuch der Manipulation am System)
    • Was ist die Hauptstadt von Deutschland? (keine medizinische Frage)