KI, Datenschutz und Kontrolle: worauf es 2026 wirklich ankommt

Zwischen „KI ist verboten“ und „einfach machen“ liegt die Realität: Die EU-KI-Verordnung (AI Act) gilt gestaffelt, die DSGVO gilt unabhängig davon, und Pflichten hängen von Rolle, System, Zweck und Datenverarbeitung ab. Für typische Büroprozesse braucht es deshalb eine konkrete Einordnung statt pauschaler Entwarnung. Dieser Überblick hilft bei den Fragen — er ersetzt keine Rechtsberatung.

Was schon gilt: Verbote und KI-Kompetenz

Seit dem 2. Februar 2025 gelten die Verbote, Definitionen und die Vorgaben zur KI-Kompetenz nach dem AI Act. Art. 4 verlangt ein ausreichendes Maß an KI-Kompetenz bei den Personen, die im Namen eines Anbieters oder Betreibers mit KI-Systemen arbeiten; Umfang und Tiefe richten sich nach Kenntnissen, Rolle, technischem Kontext und betroffenen Personen. Einen pauschalen Zertifikatszwang gibt es daraus nicht. Schulung und dokumentierte Zuständigkeiten sollten zum konkreten Einsatz passen. Wichtig seit dem 27. Juli 2026: Der AI Omnibus hat die bisherige Pflicht zur KI-Kompetenz für Unternehmen laut Europäischer Kommission vereinfacht; Kommission und Mitgliedstaaten sollen KI-Kompetenz stärker fördern. Wie die Pflicht im Einzelnen jetzt lautet, steht im Verordnungstext des Omnibus – prüfen Sie ihn (oder lassen Sie ihn prüfen), bevor Sie Schulungsnachweise aufbauen. Welche Verbote oder Sonderpflichten greifen, hängt vom System und seiner Verwendung ab.

Was seit dem 2. August 2026 gilt: Transparenz je nach Rolle und Inhalt

Die Transparenzpflichten aus Art. 50 gelten seit dem 2. August 2026. Wer ein System bereitstellt, das direkt mit Menschen interagiert, muss grundsätzlich darüber informieren, dass es sich um eine KI handelt — außer das ist aus Sicht einer angemessen informierten Person ohnehin offensichtlich. Anbieter generativer KI müssen Ausgaben technisch als künstlich erzeugt oder manipuliert markierbar machen, soweit dies technisch machbar ist. Betreiber müssen Deepfake-Bild-, Audio- und Videoinhalte sichtbar offenlegen; für KI-generierten oder manipulierten Text gilt das in dem engen Fall, dass er die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren soll. Ausnahmen und weitere Details stehen in Art. 50 und den Kommissionsleitlinien. Daraus folgt keine pauschale Kennzeichnungspflicht für jedes KI-Bild in jedem internen oder öffentlichen Kontext.

Zeitplan für die übrigen AI-Act-Pflichten

Der AI Omnibus ist am 27. Juli 2026 in Kraft getreten. Die allgemeine Anwendung des AI Act beginnt am 2. August 2026; einzelne Regeln gelten früher oder später. Hochrisiko-Regeln für Systeme aus Annex III gelten nach dem aktuellen Kommissionsstand ab dem 2. Dezember 2027, Regeln für KI in bestimmten physischen Produkten aus Annex I ab dem 2. August 2028. Ob ein konkreter Einsatz hochriskant ist, entscheidet sich anhand seines vorgesehenen Zwecks und der gesetzlichen Einordnung, nicht allein anhand der Branche.

DSGVO: die drei Grundregeln für KI im Betrieb

• Rolle und Vertrag klären: Verarbeitet ein KI-Dienst personenbezogene Daten im Auftrag Ihres Unternehmens, muss die Verarbeitung nach Art. 28 DSGVO geregelt werden. Je nach Dienst und Zweck kann die rechtliche Rolle auch anders liegen; „jeder Dienst braucht einen AVV“ ist zu pauschal.
• Datenminimierung ernst nehmen: An einen KI-Dienst geht nur der Ausschnitt, der für die Aufgabe nötig ist — nicht automatisch der ganze Ordner und nicht das ganze Postfach. Rechtsgrundlage, Zweck und Zugriff gehören vor dem Einsatz geprüft.
• Training und Weiterverwendung klären: Ob Eingaben oder Ausgaben für Modelltraining oder andere Zwecke verwendet werden, hängt von Dienst, Vertrag, Einstellungen und Rolle ab. Das muss vor der Verarbeitung von Betriebs- oder Kundendaten dokumentiert geprüft werden.

Kontrolle ist Architektur, nicht Vertrauen

Ein belastbares Kontrollmodell verbindet Prozessdesign und Rechtsprüfung: Kritische Aktionen — Versand, Buchung, Zusage — können über menschliche Freigabe laufen; Entscheidungen und Korrekturen sollten nachvollziehbar protokolliert werden; und bei Unsicherheit kann das System einen Fall zur Prüfung vorlegen, statt automatisch zu entscheiden. Das unterstützt Risikosteuerung, ersetzt aber weder die Einordnung nach AI Act und DSGVO noch die Prüfung des konkreten Dienstes.