EU AI Act: KI-Kennzeichnungspflicht einfach erklärt

TL;DR: Seit der EU-Verordnung zur Künstlichen Intelligenz (AI Act) müssen bestimmte KI-generierte Inhalte – insbesondere Deepfakes – klar gekennzeichnet werden. Die Pflicht gilt für alle Anbieter und Nutzer, die KI-Inhalte in der EU verbreiten, unabhängig davon, wo das Modell gehostet wird. Für Entwickler bedeutet das: Metadaten und Wasserzeichen einbauen, transparente Dokumentation führen und die Herkunft der Inhalte nachvollziehbar machen.

Was regelt der EU AI Act zur KI-Kennzeichnung?

Der EU AI Act ist die weltweit erste umfassende Regulierung für Künstliche Intelligenz. Die Verordnung ist in Kraft getreten und wird schrittweise umgesetzt – die Kennzeichnungspflicht für Deepfakes und KI-generierte Inhalte gehört zu den ersten praktisch relevanten Anforderungen.

Konkret müssen Inhalte, die vollständig oder teilweise von KI erzeugt wurden, als solche erkennbar sein. Das betrifft Bilder, Videos, Audio und Text. Die Kennzeichnung muss für Nutzer klar ersichtlich sein – beispielsweise durch sichtbare Wasserzeichen, Metadaten oder eine Kombination aus beidem.

Wichtig: Die Pflicht gilt nicht nur für große Tech-Konzerne, sondern für alle, die KI-Inhalte in der EU verbreiten. Auch Startups und einzelne Entwickler sind betroffen, wenn sie KI-generierte Inhalte öffentlich zugänglich machen.

Welche Fallstricke gibt es bei der Deepfake-Kennzeichnung?

Die größte Herausforderung ist die praktische Umsetzung. Eine simple Textzeile "Mit KI erstellt" reicht rechtlich oft nicht aus – die EU-Verordnung verlangt, dass die Kennzeichnung maschinenlesbar und manipulationssicher ist.

Typische Fallstricke:

Problem	Konsequenz
Nur sichtbares Wasserzeichen	Kann durch Zuschneiden entfernt werden
Fehlende Metadaten	Automatisierte Erkennung scheitert
Keine Protokollierung	Nachweispflicht nicht erfüllbar
Veraltete Kennzeichnung	Pflicht gilt auch für ältere Inhalte

Die EU-Kommission empfiehlt eine Kombination aus sichtbaren und unsichtbaren Markierungen. Metadaten im Dateiformat (wie EXIF bei Bildern oder ID3 bei Audio) sind ein guter Anfang, aber nicht ausreichend, wenn sie leicht entfernt werden können.

Für Entwickler heißt das konkret: Die Kennzeichnung sollte bereits bei der Generierung implementiert werden, nicht erst nachträglich. Wer eine API nutzt, sollte prüfen, ob die Anbieter entsprechende Metadaten automatisch anhängen.

Wie setze ich die Kennzeichnungspflicht technisch um?

Die technische Umsetzung hängt von Ihrem Einsatzszenario ab. Bei API-basierten Anwendungen können Sie die Kennzeichnung direkt in den Verarbeitungsprozess integrieren.

Ein praktisches Beispiel mit Python und einer OpenAI-kompatiblen API:

import openai
import json
from datetime import datetime

client = openai.OpenAI(
    base_url="https://tokshop.xyz/v1",
    api_key="sk-tok-ihr-schluessel"
)

response = client.chat.completions.create(
    model="deepseek-v3.2",
    messages=[
        {"role": "user", "content": "Generiere eine Produktbeschreibung"}
    ]
)

# Metadaten für die Kennzeichnungspflicht
metadata = {
    "ai_generated": True,
    "model": "deepseek-v3.2",
    "timestamp": datetime.utcnow().isoformat(),
    "provider": "tokshop.xyz"
}

# Metadaten in die Ausgabe integrieren
output = {
    "content": response.choices[0].message.content,
    "ai_metadata": metadata
}

print(json.dumps(output, indent=2))

Die Metadaten sollten Sie dann in Ihre Datenbank oder Ihr Content-Management-System übernehmen. Wichtig ist, dass die Informationen bei der Veröffentlichung automatisch mitgeliefert werden – idealerweise als Teil des Ausgabeformats.

Welche Rolle spielen Open-Source-API-Anbieter?

Die Kennzeichnungspflicht betrifft auch Anbieter von KI-APIs. TokShop als offene Plattform für LLM-APIs dokumentiert jeden API-Aufruf mit Token-Anzahl und exakten Kosten – Transparenz, die auch bei der Erfüllung der EU-Anforderungen hilft.

Bei der Auswahl eines API-Anbieters sollten Sie auf folgende Punkte achten:

• Dokumentation der Modell-Herkunft: Welches Modell wurde verwendet?
• Transparente Preisgestaltung: Lassen sich Kosten pro Aufruf nachvollziehen?
• Kompatibilität mit OpenAI-Standards: Erleichtert die Integration in bestehende Systeme
• Protokollierung: Werden alle Anfragen und Antworten geloggt?

Die Preisübersicht von TokShop zeigt, dass Open-Source-Modelle wie DeepSeek V3.2 (0,42 $ pro Million Input-Tokens) oder GLM 4.6 (0,90 $ Input) deutlich günstiger sind als proprietäre Alternativen – bei vergleichbarer Qualität.

Was müssen Unternehmen jetzt konkret tun?

Unternehmen, die KI-Inhalte veröffentlichen, sollten jetzt handeln – nicht erst wenn die Aufsichtsbehörden nachfragen. Ein pragmatischer Fahrplan:

1. Inventur: Alle Stellen identifizieren, an denen KI-generierte Inhalte entstehen
2. Kennzeichnungs-Workflow: Automatisierte Metadaten-Erzeugung implementieren
3. Qualitätssicherung: Prozesse zur Überprüfung der Kennzeichnung etablieren
4. Dokumentation: Nachweise über die verwendeten Modelle und deren Parameter führen

Die EU-Verordnung sieht Bußgelder für Verstöße vor – die Höhe hängt von der Schwere des Verstoßes ab. Für kleine Unternehmen und Startups gibt es reduzierte Sätze, aber die Pflicht zur Kennzeichnung besteht für alle gleichermaßen.

Praktisch empfiehlt es sich, die Kennzeichnung als Teil des normalen Entwicklungsprozesses zu behandeln. Wer ohnehin eine API nutzt, kann die Metadaten direkt in den Response integrieren – die Dokumentation bei TokShop zeigt, wie das mit Standard-SDKs funktioniert.

FAQ

Ab wann gilt die KI-Kennzeichnungspflicht genau?

Die EU-Verordnung ist in Kraft, die Kennzeichnungspflicht für Deepfakes wird schrittweise umgesetzt. Für die meisten Anwendungen gelten Übergangsfristen, aber es ist ratsam, die Kennzeichnung sofort zu implementieren, um rechtliche Risiken zu vermeiden.

Gilt die Pflicht auch für Inhalte, die außerhalb der EU erstellt wurden?

Ja, sofern die Inhalte in der EU verbreitet werden. Die Verordnung gilt für alle Anbieter und Nutzer, die KI-Inhalte auf dem EU-Markt zugänglich machen – unabhängig vom Standort des Unternehmens oder des KI-Modells.

Reicht ein sichtbares Wasserzeichen als Kennzeichnung aus?

Ein sichtbares Wasserzeichen allein ist rechtlich riskant, da es leicht entfernt werden kann. Die EU-Verordnung verlangt robuste Kennzeichnungen – idealerweise eine Kombination aus sichtbaren Markierungen und maschinenlesbaren Metadaten.