Chatbot Transparenzpflichten nach EU AI Act | AI Engineering Wiki

Für "Begrenztes Risiko" Systeme

Chatbots, KI-generierte Texte/Bilder/Audio und Deepfakes fallen unterArticle 50. Transparenzpflichten gelten seit August 2025.

Chatbot Transparenzpflichten — KI-Identitaet, Kennzeichnung, Copyright — Chatbot Transparenzpflichten: Was nach Art. 50 EU AI Act offengelegt werden muss

Was muss offengelegt werden?

1. KI-Identität offenlegen

Nutzer müssen klar und eindeutig wissen, dass sie mit einem KI-System interagieren.

"Powered by AI" oder "KI-Assistent" im Chat-Fenster
Bei Voice: Ansage "Sie sprechen mit einem KI-System"
Erste Nachricht: Hinweis auf KI-Natur

2. KI-generierte Inhalte kennzeichnen

Alle KI-generierten Outputs müssen als solche erkennbar sein:

Bilder: "KI-generiert" Wasserzeichen oder Metadata
Audio: "KI-generierte Stimme" bei Text-to-Speech
Video: "Deepfake" Kennung bei synthetischen Videos
Text: Hinweis im Footer bei Artikeln

3. Urheberrechts-Compliance

Anbieter von General Purpose AI (GPAI) müssen dokumentieren:

Welche Daten für Training verwendet wurden
Urheberrechtsinhaber benachrichtigen (opt-out System)
Zusammenfassung der Trainingsdaten bereitstellen

4. Täuschung verhindern

Verbot: KI-Systeme so gestalten, dass sie Menschen täuschen.

Keine menschenähnlichen Avatare ohne Kennzeichnung
Keine gefälschten Reviews oder Bewertungen
Keine manipulativen Design-Patterns

Checkliste für Unternehmen

[ ] Chatbot-Interface: "KI-Assistent" Kennzeichnung
[ ] Erste Nachricht: Hinweis auf KI-Natur
[ ] KI-generierte Bilder: Wasserzeichen oder Metadata
[ ] Nutzungsbedingungen: Hinweis auf KI-Einsatz
[ ] Datenschutzerklärung: KI-Verarbeitung dokumentiert
[ ] Trainingsdaten: Copyright-Compliance dokumentiert
[ ] Opt-out: Verfahren für Urheberrechts-Claims

Beispiele: Was gut / schlecht ist

✅ Richtig

"Ich bin ein KI-Assistent. Meine Antworten können Fehler enthalten."
KI-generierte Bilder mit "AI" Wasserzeichen
Klare Trennung: "Diese Zusammenfassung wurde von KI erstellt"

❌ Falsch

Kein Hinweis dass es ein Bot ist
Realistische menschliche Avatare ohne Kennzeichnung
"Kundenbewertungen" die von KI generiert wurden

Implementation: KI-Hinweis in Chatbot

# HTML: KI-Hinweis im Chat-Fenster
<div class="chat-header">
  <span class="bot-avatar">🤖</span>
  <span class="bot-name">KI-Assistent</span>
  <span class="ai-badge">Powered by AI</span>
</div>

<style>
.ai-badge {
  background: #10b981;
  color: white;
  padding: 2px 8px;
  border-radius: 4px;
  font-size: 12px;
}
</style>

# Oder als erste Bot-Nachricht:
bot_message("""
Hallo! Ich bin ein KI-Assistent. 
Meine Antworten werden von AI generiert und können Fehler enthalten.

Für wichtige Entscheidungen bitte zusätzliche Quellen prüfen.
""")

Strafen bei Verstoß

Bei Nichteinhaltung der Transparenzpflichten:

Bußgeld bis zu €15 Mio. oder 3% des Umsatzes
Abmahnungen durch Datenschutzbehörden
Reputationsschäden