Chatbots müssen als KI erkennbar sein
Die Europäische Kommission erläutert, dass Menschen bei interaktiven KI-Systemen wie Chatbots darüber informiert werden müssen, dass sie mit einer Maschine interagieren. Diese Transparenz sollte direkt zu Beginn erfolgen und nicht in versteckten Hinweisen stehen.
Quelle: Europäische Kommission – AI Act.
Der Anwendungsfall bestimmt das Risiko
Ein FAQ-Assistent ist anders zu bewerten als ein System, das Bewerber beurteilt, Kredite beeinflusst oder in kritischer Infrastruktur eingesetzt wird. Deshalb beginnt jedes Projekt mit Zweck, betroffenen Personen, Daten und möglichen Folgen.
Dokumentation schon im Projekt anlegen
Festgehalten werden sollten verwendete Datenquellen, Modell und Version, erlaubte Funktionen, bekannte Grenzen, Tests, Verantwortlichkeiten, menschliche Kontrolle und Umgang mit Vorfällen. Diese Unterlagen helfen auch unabhängig von einer formalen Risikoklasse beim sicheren Betrieb.
Transparenz ist nicht dasselbe wie Datenschutz
Der AI Act ersetzt weder DSGVO noch branchenspezifische Regeln. Rechtsgrundlage, Auftragsverarbeitung, Speicherfristen und Betroffenenrechte müssen zusätzlich bewertet werden.
Keine Rechtsberatung durch einen Blogartikel
Die konkrete Einordnung hängt vom System und Einsatzgebiet ab. Unternehmen sollten bei sensiblen oder potenziell hochriskanten Anwendungen früh Datenschutz- und Rechtsberatung einbeziehen. H-Cyber unterstützt die technische Dokumentation und sichere Umsetzung, ersetzt aber keine Rechtsberatung.
Hinweis: Inhalte zu Datenschutz und EU AI Act dienen der allgemeinen Orientierung und sind keine Rechtsberatung.
