Perez Alonso … KÜNSTLICHE INTELLIGENZ IM KUNDENSERVICE ..!!!

Immer häufiger sieht man, dass man im Kundendienst mit vermeintlichen „Mitarbeitern“ kommuniziert, die sich später als künstliche Intelligenz herausstellen. Diese Entwicklung ist keineswegs zufällig, sondern Ausdruck einer rasanten technischen und regulatorischen Transformation des Dienstleistungssektors, insbesondere im Tourismus, bei Autovermietungen, Plattformen, Immobilienverwaltungen…

Technisch handelt es sich dabei um sogenannte „human-like conversational agents“, also KI-Systeme, die Sprache, Tonfall, Reaktionszeiten (und sogar Empathie simulieren), um eine möglichst realistische Interaktion zu erzeugen. Anders als klassische Chatbots der ersten Generation sind diese Systeme in der Lage, komplexe Anfragen zu „verstehen”, kontextbezogen zu antworten und mehrsprachig zu kommunizieren, was sie für Unternehmen besonders attraktiv macht. In der Praxis werden sie in Websites, WhatsApp-Kanälen, Telefon-Hotlines (Voicebots) und CRM-Systemen integriert und treten häufig mit Namen und Rollen auf, etwa als „Kundenberater“ oder „Support-Mitarbeiter“, ohne dass der Nutzer sofort erkennt, dass keine echte Person beteiligt ist.

Rechtlich ist diese Praxis in der Europäischen Union mittlerweile ausdrücklich reguliert. Maßgeblich ist insbesondere die Verordnung (EU) 2024/1689 über Künstliche Intelligenz (AI Act), deren Artikel 50 eine klare Transparenzpflicht vorsieht: Nutzer müssen darüber informiert werden, wenn sie mit einem KI-System interagieren, sofern dies nicht offensichtlich ist. Das bedeutet, dass ein System, das gezielt den Eindruck erweckt, eine reale Person zu sein, ohne dies offenzulegen, rechtlich problematisch sein kann. Diese Transparenzpflicht ist kein bloßes ethisches Postulat, sondern eine verbindliche unionsrechtliche Verpflichtung, die unmittelbar in Spanien Anwendung findet.

Hinzu kommt das Datenschutzrecht, insbesondere die Artikel 13, 14 und 22 der Datenschutz-Grundverordnung (Verordnung (EU) 2016/679 – RGPD), die Informationspflichten über automatisierte Entscheidungsprozesse vorsehen. Wenn ein KI-Kundendienst etwa Reklamationen ablehnt, Verträge ändert oder wirtschaftlich relevante Entscheidungen vorbereitet, kann dies eine automatisierte Entscheidung mit rechtlicher Wirkung darstellen, was zusätzliche Transparenz- und Schutzpflichten auslöst. Aus rechtlicher Sicht ist dies besonders relevant bei Plattformen, Reiseanbietern, Versicherungen und Mietverwaltungen, bei denen Entscheidungen oft automatisiert vorgefiltert werden.

Nach spanischem Recht kommt ergänzend das Verbraucherschutzrecht zur Anwendung, insbesondere das Real Decreto Legislativo 1/2007 (Ley General para la Defensa de los Consumidores y Usuarios) sowie das Gesetz Ley 3/1991 de Competencia Desleal. Eine Kommunikation, die den Verbraucher über die Identität des Gesprächspartners täuscht oder ihm vorgaukelt, mit einer echten Person zu sprechen, kann unter Umständen als irreführende Geschäftspraxis im Sinne der Artikel 5 und 7 des Gesetzes Ley de Competencia Desleal eingestuft werden. Entscheidend ist dabei nicht die bloße Nutzung von KI, sondern die gezielte Verschleierung ihrer Natur mit dem Ziel, Vertrauen zu erzeugen oder geschäftliche Entscheidungen zu beeinflussen.

Auch das Gesetz Ley 34/2002 de Servicios de la Sociedad de la Información (LSSI-CE) ist einschlägig, da sie Transparenz- und Informationspflichten bei elektronischen Dienstleistungen vorsieht. Unternehmen, die automatisierte Kommunikationssysteme einsetzen, müssen sicherstellen, dass die Identität des Dienstanbieters und die Art der Kommunikation klar erkennbar sind. Dies gilt natürlich auch für touristische Dienstleistungen und Online-Plattformen, die stark im kanarischen Markt vertreten sind.

In der Praxis ist festzuhalten, dass der Einsatz menschenähnlicher KI im Kundendienst grundsätzlich legal ist, solange Transparenz, Datenschutz und Verbraucherrechte gewahrt bleiben. Unzulässig wird es jedoch, wenn eine bewusste Täuschung über die menschliche Natur des Gesprächspartners erfolgt, etwa durch die ausdrückliche Behauptung, es handele sich um einen realen Mitarbeiter. Juristisch gesprochen bewegt sich eine solche Praxis im Spannungsfeld zwischen Transparenzpflicht (AI Act), Informationspflicht (RGPD) und Lauterkeitsrecht (Ley de Competencia Desleal).

Hier, auf den Kanarischen Inseln, wo viele deutschsprachige Kunden Dienstleistungen aus der Ferne in Anspruch nehmen und auf vertrauensvolle Kommunikation angewiesen sind, gewinnt diese Thematik erhebliche praktische Bedeutung. Wer glaubt, mit einer realen Person zu verhandeln, trifft Entscheidungen oft anders als im Bewusstsein einer automatisierten Interaktion. Das Recht reagiert daher nicht auf die Technik an sich, sondern auf deren Wirkung auf das Vertrauen des Verbrauchers, und dieses Vertrauen ist im europäischen Verbraucherrecht ein schützenswertes Gut. Eine KI darf höflich, effizient und sogar sehr „menschlich“ klingen, sie darf aber niemals heimlich Mensch spielen. In Zeiten, in denen Maschinen immer überzeugender reden als so mancher Kundendienst, verlangt das Recht wenigstens eine: klare Offenheit darüber, wer (oder was) tatsächlich antwortet…