Chatbots: Compliance muss Unternehmenskommunikation steuern

In dem Verfahren ging es um eine Praxiswebseite, auf der Patientinnen und Patienten über einen KI-Chatbot Termine buchen und Fragen stellen konnten. Der Chatbot gab falsche Auskünfte zur Qualifikation der Behandelnden. Das Gericht wertete diese Angaben als irreführende geschäftliche Handlung. Die Verantwortung blieb bei der Praxis, die das System auf ihrer Webseite einsetzte.

Viele Unternehmen nutzen Chatbots für Kundenanfragen, Produktinformationen, Serviceprozesse, Terminbuchungen oder Vorabklärungen. Dabei können Angaben zu Leistungen, Preisen, Zertifizierungen, Garantien, Zulassungen, Nachhaltigkeit, Sicherheit oder regulatorischer Konformität rechtliche Wirkung entfalten. Ein fehlerhafter KI-Satz kann Erwartungen erzeugen, Vertrauen beeinflussen und Haftungsrisiken auslösen.

Die zentrale Lehre aus dem aktuellen Fall lautet: KI-gestützte Kommunikation ist Unternehmenskommunikation. Sie braucht klare Regeln, fachliche Kontrolle und dokumentierte Verantwortlichkeiten. Compliance sollte deshalb früh klären, welche Themen ein Chatbot beantworten darf, welche Aussagen gesperrt sind und wann eine Übergabe an menschliche Ansprechpartner erforderlich ist.

Erforderlich sind geprüfte Wissensquellen, definierte Antwortgrenzen, Monitoring, Eskalationswege und Freigabeprozesse. Sensible Aussagen über rechtliche Pflichten, Produkteigenschaften, Qualifikationen, Sicherheitsstandards oder Vertragsfolgen sollten nur auf belastbarer Grundlage erscheinen. Wo diese Grundlage fehlt, sollte der Chatbot auf geprüfte Informationsquellen oder zuständige Fachstellen verweisen.

Der Fall zeigt außerdem: Technische Automatisierung ersetzt keine organisatorische Verantwortung. Unternehmen müssen Fehlantworten antizipieren, Stichproben durchführen und Korrekturprozesse einrichten. Je stärker eine KI-Aussage Entscheidungen, Rechte, Pflichten oder wirtschaftliche Erwartungen beeinflussen kann, desto höher muss die Prüftiefe sein.

Handbuch Interne Kontrollsysteme (IKS) von Dr. Oliver Bungartz Zunehmende öffentliche und regulatorische Erwartungen und Anforderungen an die unternehmerische Transparenz rücken interne Kontrollen und Risikomanagement immer stärker in den Fokus. So gewinnen Interne Kontrollsysteme (IKS) nicht nur für die klassische Finanzberichterstattung, sondern auch für die Verlässlichkeit nicht-finanzieller Informationen an Bedeutung. Wie Sie Schritt für Schritt ein IKS zielgerichtet aufbauen, zeigt Ihnen Oliver Bungartz in der systematisch erweiterten 7. Auflage dieses Standardwerks. Einführung und Aufbau eines IKS auf Basis nationaler und internationaler Standards wie dem COSO-Rahmenwerk – neu zu Robotic Process Automation Prozesse eines IKS und strukturierte Kontrolle zentraler Geschäftsbereiche durch konkrete Risiko-, Fraud- und Kennzahlenanalysen Projektmanagement zur Einführung eines IKS: Planung, Umsetzung, Besonderheiten bei KMU und praktische Erfolgsfaktoren Neu: Erweiterung des IKS für die Nachhaltigkeitsberichterstattung mit ihren spezifischen Anforderungen Integration von IKS, Risikomanagement und Interner Revision im Rahmen des Enterprise-Risk-Management-Modells (ERM) unter Einbindung von ESG-Risiken Ein einzigartiger Leitfaden mit mehr als 780 Beispielen zu Risiko-Kontroll-Kombinationen, über 200 Fraud-Indikatoren und 320 Kennzahlen zur Risikoidentifikation und Prozesssteuerung.