Der Chatbot erfindet. Wer haftet? Was das OLG Hamm für KI-Agenten bedeutet

Von der Antwort zur Aktion

OpenAI hat am 29. September 2026 „dots“ vorgestellt. Meta präsentierte Muse am 8. September, Grok Bot wurde bereits am 11. August angekündigt. Nach den jeweiligen Anbieterbeschreibungen können diese Assistenten mit einem eigenen Computer und verbundenen Anwendungen Aufgaben bearbeiten. Freigaben, Zugriffsrechte und Verfügbarkeit unterscheiden sich. Es handelt sich nicht um drei identische Produkte und auch nicht um eine allgemeine Erlaubnis zum unbeaufsichtigten Handeln.

Für Unternehmen wird damit eine bereits bekannte Frage dringlicher: Was passiert, wenn die KI im Kundenkontakt etwas Falsches behauptet? Und was ändert sich, wenn aus dieser Antwort eine E-Mail, ein Angebot oder eine Buchung wird? Das folgende Urteil betrifft die erste Frage. Unsere Empfehlungen für Agenten gehen bewusst einen Schritt weiter.

Der Fall: Facharztqualifikationen, die nicht vorlagen

Eine Gesellschaft bot ästhetische Behandlungen an. Ihr Website-Chatbot bestätigte auf Nachfrage Facharztqualifikationen ihrer ärztlichen Geschäftsführer, obwohl diese die betreffende Weiterbildung nicht absolviert hatten. Die Antworten boten zugleich eine Terminbuchung an. Die von Menschen verfassten Website-Texte behaupteten diese Qualifikationen gerade nicht. Das Gericht untersuchte also einen eigenständigen Fehler des Chatbots, nicht lediglich das Wiederholen einer falschen Werbeseite (Rn. 3 bis 15).

Das OLG Hamm ordnete die Antworten als eigene geschäftliche Handlungen der Gesellschaft ein. Der Bot war ein von ihr eingesetztes Kommunikationsmittel und kein unabhängiger Dritter. Dass die Antworten automatisiert entstanden, beseitigte die Zurechnung nicht (Rn. 63 bis 77). Die irreführenden Angaben waren für die Behandlungsentscheidung relevant (Rn. 98 bis 104).

Was das Urteil entscheidet. Und was offenbleibt.

Die Gesellschaft wurde zur Unterlassung und zur Zahlung von 260 Euro pauschalierter Abmahnkosten nebst Zinsen verurteilt. Das ist kein Schadensersatzurteil gegen die Ärzte persönlich. Die Revision wurde zugelassen; die amtliche Veröffentlichung kennzeichnet das Urteil inzwischen als rechtskräftig. Eine veröffentlichte spätere Entscheidung, die diesen konkreten Ausspruch aufhebt, haben wir bei der Recherche nicht gefunden.

Ausdrücklich offen ließ das Gericht, ob durch tendenziöse Nutzerfragen provozierte Fehler anders zu beurteilen wären. Die Fragen im entschiedenen Fall waren weder tendenziös noch suggestiv (Rn. 96). Ebenso wenig entschied das OLG über private KI-Nutzung, autonome Bestellungen oder jeden denkbaren Schaden durch Sprachmodelle. Wer daraus „Der Betreiber haftet immer“ macht, lässt diese Grenzen weg.

Warum korrekte Unterlagen allein nicht reichen

Die Gesellschaft verwies unter anderem auf ihre korrekten Ausgangsinformationen und die fehlende Steuerung jeder einzelnen Antwort. Das schützte sie im konkreten Fall nicht. Bei naheliegenden Fragen zu den Qualifikationen ihrer Behandler hielt das OLG Vorkehrungen schon vor Inbetriebnahme für zumutbar (Rn. 89 bis 95). Die bloße Erwartung, Nutzer würden KI-Antworten ohnehin selbst prüfen, überzeugte das Gericht ebenfalls nicht (Rn. 104).

Unsere praktische Folgerung: Testen Sie die tatsächlich ausgegebenen Antworten. Dazu gehören einfache Fragen nach Preisen, Zulassungen, Qualifikationen und Leistungsgrenzen. Ein Hinweis auf mögliche KI-Fehler sollte nicht an die Stelle dieser Prüfung treten. Ob ein konkreter Hinweis die Irreführung im Einzelfall beeinflusst, ist eine andere Frage als die Wirksamkeit technischer Schutzmaßnahmen.

KI-Agenten: Drei Prüfungen statt einer Haftungsformel

Unsere Einordnung für weitergehende Agenten-Workflows: Trennen Sie öffentliche Aussagen, rechtlich relevante Erklärungen und interne Datenaktionen. Ein erfundenes Zertifikat in einer Kundenantwort wirft andere Fragen auf als ein versandtes Angebot oder eine fehlerhafte Änderung im CRM. Das OLG-Urteil lässt sich nicht ohne Prüfung des jeweiligen Sachverhalts auf alle drei Fälle übertragen.

Ein hypothetischer Fall: Ein Vertriebsassistent liest ein altes Preisblatt, nennt dem Kunden einen falschen Preis und verschickt anschließend eine Auftragsbestätigung. Hier müssen Werbeaussage, möglicher Vertragsschluss und die Verantwortung im Verhältnis zum technischen Dienstleister getrennt untersucht werden. Ein Freigabeprotokoll kann helfen, den Ablauf nachzuvollziehen. Es ersetzt keine rechtliche Bewertung.

Was Unternehmen vor dem Einsatz festlegen sollten

Die folgende Liste ist unsere Empfehlung für die Organisation des Einsatzes. Sie ist kein vom OLG vorgeschriebener allgemeiner Pflichtenkatalog und keine Garantie gegen Rechtsverstöße.

• Verbindliche Informationsquellen: Welche Preislisten, Qualifikationen und Leistungsbeschreibungen darf die KI verwenden? Wer hält sie aktuell?
• Aktionsrechte: Darf der Assistent nur entwerfen oder auch versenden, buchen, veröffentlichen und Daten verändern?
• Freigaben: Welche Zusagen und Ausgaben benötigen eine benannte verantwortliche Person? Kritische Grenzen sollten technisch abgesichert sein.
• Fehlerprozess: Antworten und Konfiguration nachvollziehbar sichern, beanstandete Funktionen eingrenzen und Ansprüche prüfen lassen. Nicht vorschnell eine vorformulierte Unterlassungserklärung unterschreiben.