Urteile: Chatbot-Betreiber für KI-Fehler verantwortlich

KI-Halluzinationen vor Gericht: Haften Chatbot-Betreiber für unwahre KI-Aussagen? Ja, urteilt das Oberlandesgericht (OLG) Hamm im aktuellen Fall einer Klinik. Auch das LG Hamburg hatte im Zusammenhang mit dem Chatbot Grok schon so entschieden.

Wer einen Chatbot betreibt, muss für Falschangaben seiner KI haften. So hat das Oberlandesgericht Hamm jüngst eine Schönheitsklinik verurteilt, das Verwenden bestimmter Facharztbezeichnungen zu unterlassen, die ein KI-Chatbot für Kundenanfragen auf der Webseite der Klinik halluziniert hatte (Az.: 4 UKl 3/25).

In dem Fall behauptete der Chatbot auf Anfragen hin, die beiden hinter der Klinik-GmbH stehenden Mediziner seien „Fachärzte für plastische und ästhetische Chirurgie“, „Fachärzte für ästhetische Medizin“ und „Fachärzte für ästhetische Behandlungen“.

Zweimal frei erfunden und einmal hochgestapelt

Das Problem: Die beiden letztgenannten Facharzt-Disziplinen existieren gar nicht – und die beiden geschäftsführenden Ärzte sind keine Fachärzte für plastische und ästhetische Chirurgie.

Verbraucherschützer mahnten die Klinik deshalb zunächst ab und forderten sie in diesem Zusammenhang unter anderem zur Unterzeichnung einer strafbewährten Unterlassungserklärung auf. Zwar wurde der Chatbot in der Folgezeit deaktiviert, die entsprechende Unterlassungserklärung aber nicht unterzeichnet.

Irreführung im großen Stil – und Menschen sind verantwortlich

Deshalb klagten die Verbraucherschützer auf Unterlassung und bekamen Recht. Die OLG-Senat stufte die Chatbot-Aussagen als irreführende geschäftliche Handlung ein, die geeignet sei, Verbraucher und andere Marktteilnehmer zu Entscheidungen zu veranlassen, die sie andernfalls nicht getroffen hätten. Selbst wenn die Klinik den Chatbot ausschließlich mit korrekten Datensätzen habe programmieren lassen, trage sie für die unstreitigen Falschangaben betreffend der nicht existenten Facharzttitel ihrer Geschäftsführer die Verantwortung, so die Richter.

Darstellung rechtlich unzulässig – der Mensch bleibt verantwortlich

Dass Betreiber eines Chatbots für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind, hatte Ende 2025 auch schon das Landgericht Hamburg in einem Urteil entschieden. In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa fälschlicherweise, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen. Der betroffene Verein klagte deshalb auf Unterlassung und bekam Recht. Die Tatsache, dass der fehlerhafte Inhalt von einer Maschine generiert wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung, bemerkten die Hamburger Richter.

Quelle: Handelsblatt