Kennzeichnungspflichten für Chatbots, Deepfakes und KI-Texte

Bild: grollmann / erzeugt mit ChatGPT

31.07.2026 - Seit August 2026 gelten weitere Vorgaben des europäischen AI Acts. Unternehmen müssen unter anderem Chatbots, Deepfakes und bestimmte KI-generierte Inhalte kenntlich machen. Es fehlt jedoch an Rechtssicherheit und Auslegungshilfen.

von Dominik Grollmann

Unternehmen müssen nun weitere Transparenzvorgaben des EU AI Acts einhalten. Betroffen sind insbesondere Anbieter und Betreiber von Chatbots, generativer Künstlicher Intelligenz, Deepfake-Anwendungen sowie Systemen zur Emotionserkennung. Die europäische KI-Verordnung gilt seit August 2024 und wird schrittweise anwendbar. Darauf weist der Branchenverband Bitkom hin.

KI-Chatbots müssen Nutzerinnen und Nutzer künftig grundsätzlich darüber aufklären, dass sie mit einer Maschine kommunizieren. Anbieter generativer KI müssen zudem künstlich erzeugte oder manipulierte Inhalte maschinenlesbar kennzeichnen. Für Systeme, die bereits auf dem Markt sind, gilt nach Angaben des Bitkom eine Übergangsfrist bis Dezember 2026.

Kennzeichnungspflicht für Deepfakes und KI-Texte

Bilder, Videos und Audiodateien, die durch Künstliche Intelligenz erzeugt oder verändert wurden und echt erscheinen können, müssen als Deepfakes offengelegt werden. Eine Kennzeichnungspflicht gilt außerdem für KI-generierte Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen.

Ausgenommen sind zusätzlich Texte, die vor ihrer Veröffentlichung von Menschen geprüft wurden und für die eine Person oder Organisation die redaktionelle Verantwortung übernimmt. Für Medien, Agenturen und Marketingabteilungen wird damit entscheidend, menschliche Prüfprozesse und Verantwortlichkeiten nachvollziehbar zu organisieren beziehungsweise im Impressum einen Verantwortlichen zu benennen.

Produkt- und Katalogtexte in Onlineshops dürften von der Regelung aber schon deswegen ausgenommen sein, weil sie kein Thema von öffentlichem Interesse berühren. Nichtsdestotrotz sollten die Angaben aber richtig sein, schließlich haftet der Anbieter für alle Informationen und auch das Wettbewerbsrecht greift unabhängig davon, ob der Text von Mensch oder Maschine erstellt wurde.

Auch beim Einsatz von Systemen zur Emotionserkennung oder zur biometrischen Einordnung von Personen müssen Betroffene informiert werden. Die zuständigen Behörden können die Einhaltung der Vorgaben kontrollieren und Verstöße mit Bußgeldern sanktionieren.

Bitkom fordert pragmatische Aufsicht

Bitkom-Präsident Ralf Wintergerst kritisiert, dass zentrale Leitlinien und Auslegungshilfen erst kurz vor dem Stichtag veröffentlicht worden seien. Unternehmen hätten deshalb trotz der zweijährigen Übergangszeit kaum verlässlich planen können. "Noch sind aber zu viele Fragen offen, um die neuen Regeln rechtssicher umsetzen zu können", erklärt Wintergerst. Von den Aufsichtsbehörden fordert der Verband pragmatische Hilfestellungen, eine verhältnismäßige Durchsetzung und ein europaweit abgestimmtes Vorgehen.

Entlastung sollen Fristverlängerungen bei bestimmten Hochrisiko-Systemen sowie der Verzicht auf doppelte Prüf- und Dokumentationspflichten im Maschinenbereich bringen. Die meisten Bestimmungen des AI Acts gelten grundsätzlich seit dem 2. August 2026, einzelne Vorgaben werden jedoch erst später anwendbar.

Bild: Christian Bennefeld

Christian Bennefeld
(Initiative datenschutz-zwecklos.de)

Klarheit in der KI-Kakophonie: Orientierung für die Zukunft

In seiner Key Note gibt Christian einen Überblick über den aktuellen Stand der KI-Entwicklung und bietet Orientierung in der Kakophonie aus Algorithmen und Innovationen. Wo stehen wir heute tatsächlich? Was können wir in der Zukunft erwarten?
Christian ordnet die zentralen Entwicklungen ein und zeigt, welche Trends 2025 wichtig werden. Sind es autonome Agenten, Open-source Modelle oder General Purpose AI-Systeme, die bald unsere Arbeit bestimmen? Was passiert mit der KI-Regulierung und dem Datenschutz? Und worauf müssen wir achten, um auch zukünftig auf der Gewinnerseite zu stehen?

Der kurzweilige Vortrag gibt überraschende Antworten und lädt zum Nachdenken wie Mitdiskutieren ein.

Vortrag im Rahmen der Zukunftskonferenz 25. Trends in ECommerce, Marketing und digitalem Business am 03.12.24, 09:30 Uhr