KI-Chatbot-Haftung 2026: Wer haftet, wenn der Chatbot falsch informiert?

OLG Hamm 2026: Das Unternehmen haftet für die Falschauskunft seines Chatbots

Am 12. Mai 2026 hat das Oberlandesgericht Hamm ein Unternehmen für die Antworten seines KI-Chatbots haften lassen. Der Chatbot auf der Website eines Anbieters ästhetischer Behandlungen hatte die beiden Geschäftsführer als Fachärzte für plastische und ästhetische Chirurgie bezeichnet, obwohl keiner von ihnen eine Facharztweiterbildung absolviert hatte. Ein Verbraucherverband klagte auf Unterlassung und bekam recht. Der Senat stellte klar, dass das Unternehmen für die Antworten des Chatbots selbst einstehen muss:

„Für deren Ausgabe in Form eigener Antworten auf Nutzerfragen ist die Beklagte grundsätzlich aufgrund der ihr zuzurechnenden Erarbeitung verantwortlich.“

Auch das Argument, Verbraucher wüssten um die Fehleranfälligkeit von KI-Antworten, ließ das Gericht nicht gelten: Solche Erfahrungssätze gebe es nicht. Es sei dem Unternehmen zumutbar gewesen, schon vor der ersten Inbetriebnahme sicherzustellen, dass der Chatbot keine falschen Angaben zur Qualifikation der Ärzte macht. Das Verbot knüpft das Gericht an die konkreten Chatbot-Antworten, die der Kläger als Anlage vorgelegt hatte; gerade mit diesem Verweis begründete der Senat, dass der Antrag hinreichend bestimmt war.

Schon 2024 in Kanada: der Fall Air Canada

Nach dem Tod seiner Großmutter fragte Jake Moffatt den Chatbot auf der Website von Air Canada nach ermäßigten Tarifen für Trauerfälle. Der Chatbot antwortete, Moffatt könne den ermäßigten Tarif auch nach der Reise beantragen. Das stimmte nicht, und die Fluggesellschaft lehnte die Erstattung ab. Vor dem Civil Resolution Tribunal von British Columbia machte Air Canada unter anderem geltend, nicht für die Auskünfte ihres Chatbots zu haften. Das Civil Resolution Tribunal folgte dem nicht und sprach Moffatt im Februar 2024 insgesamt 812,02 kanadische Dollar an Schadensersatz, Zinsen und Gebühren zu:

„It should be obvious to Air Canada that it is responsible for all the information on its website. It makes no difference whether the information comes from a static page or a chatbot.“

Übersetzung: „Es sollte für Air Canada offensichtlich sein, dass sie für alle Informationen auf ihrer Website verantwortlich ist. Es macht keinen Unterschied, ob die Informationen von einer statischen Seite oder von einem Chatbot stammen.“

In beiden Fällen kam es auf den genauen Wortlaut der Chatbot-Antwort an. Wer ihn belegen kann, ob als Kunde oder als Unternehmen, steht besser da.

Kennzeichnungspflicht für Chatbots: Was der EU AI Act seit dem 2. August 2026 verlangt

Seit dem 2. August 2026 gilt die Kennzeichnungspflicht aus Art. 50 Abs. 1 AI Act. Danach müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, „so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich“.

Die Pflicht trifft den Anbieter. Anbieter ist nach der Begriffsbestimmung der Verordnung auch, wer ein KI-System entwickeln lässt und es unter eigenem Namen in Betrieb nimmt. Ein Unternehmen, das einen Chatbot unter seiner Marke auf der eigenen Website einsetzt, kann also selbst in der Pflicht stehen. Der Hinweis muss spätestens bei der ersten Interaktion „in klarer und eindeutiger Weise“ erfolgen.

Verstöße gegen diese Kennzeichnungspflicht können nach Art. 99 Abs. 4 AI Act mit Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere Betrag. Die häufig genannten 35 Millionen Euro betreffen nur verbotene KI-Praktiken. Eine Pflicht, jedes Chatbot-Gespräch aufzuzeichnen, enthält die Transparenzvorschrift nicht.

Fünf Situationen, in denen Sie eine Chatbot-Antwort sichern sollten

Eine Sicherung lohnt sich überall dort, wo eine Aussage des Chatbots später streitig werden kann:

1. Zusagen zu Preis, Rabatt oder Erstattung, bevor Sie auf dieser Grundlage kaufen oder buchen.
2. Auskünfte zu Fristen und Bedingungen, etwa zur Rückgabe, Kündigung oder Garantie.
3. Beschwerden über Ihren eigenen Chatbot: Behauptet ein Kunde, Ihr Chatbot habe ihm etwas zugesagt, sichern Sie das Gespräch, sobald die Beschwerde eingeht.
4. Der KI-Hinweis Ihres Chatbots: Halten Sie fest, ob und wie Ihr Chatbot an einem bestimmten Tag auf den KI-Einsatz hinweist.
5. Falsche Aussagen über Personen oder Unternehmen in KI-Antworten. Wie Sie dabei vorgehen, erklärt unser Beitrag „KI-Falschaussage über Ihr Unternehmen: Beweis sichern“.

Warum ein Screenshot des Chats oft nicht reicht

Chatbot-Antworten sind flüchtig. Auf dieselbe Frage kann morgen eine andere Antwort kommen, und ein Chatfenster auf einer Website ist nach dem Schließen oft leer. Ein Screenshot hält die Antwort zwar fest, lässt sich aber in Sekunden bearbeiten, und sein Datum ist leicht zu bestreiten.

Überzeugender ist eine Sicherung, die neben dem Bild auch das HTML und den Text des Gesprächs, Metadaten und Hashwerte enthält und deren Zeitpunkt sich, außer im Tarif Essential, unabhängig prüfen lässt. Warum ein Screenshot allein vor Gericht oft scheitert, erklärt unser Beitrag „Screenshot als Beweis vor Gericht“.

Was das Beweispaket enthält

Das Beweispaket von ProofSnap enthält neben dem Bild des Gesprächs das HTML, den Text des Gesprächs, Metadaten und für jede Datei einen SHA-256-Hashwert in einem mit RSA-4096 signierten Manifest. Ein Zeitstempel (nicht im Tarif Essential) belegt, dass das Manifest spätestens zum angegebenen Zeitpunkt existierte, und jede spätere Änderung an einer Datei fällt beim Abgleich mit dem zeitgestempelten Manifest auf.

Häufige Fragen