KI, Datenschutz und Kontrolle: worauf es 2026 wirklich ankommt

Zwischen „KI ist verboten“ und „einfach machen“ liegt die Realität: Die EU-KI-Verordnung (AI Act) gilt gestaffelt, die DSGVO gilt sowieso, und beides ist für einen typischen Mittelständler gut beherrschbar — wenn man weiß, welche Pflichten wann greifen. Der Überblick, ohne Panik und ohne Beschönigung.

Was schon gilt: KI-Kompetenz ist Pflicht

Seit dem 2. Februar 2025 verlangt Art. 4 des AI Act von Unternehmen, die KI-Systeme einsetzen, ein „ausreichendes Maß an KI-Kompetenz“ beim Personal. Das ist kein Zertifikatszwang: Der Maßstab ist verhältnismäßig zur Unternehmensgröße und zur Art des Einsatzes. Eine dokumentierte Schulung am konkret genutzten Prozess erfüllt den Zweck besser als ein generischer Online-Kurs. Seit demselben Datum sind außerdem bestimmte Praktiken — etwa Social Scoring — grundsätzlich verboten; für normale Büro-KI ist das praktisch nie relevant.

Was im August 2026 dazukommt: Transparenz

Ab dem 2. August 2026 gelten die Transparenzpflichten aus Art. 50: Menschen müssen erkennen können, wenn sie mit einer KI interagieren, und KI-erzeugte Inhalte wie Deepfakes müssen gekennzeichnet werden — teils auch maschinenlesbar. Für den Mittelstand heißt das konkret: Ein Kunden-Chatbot muss sich als solcher zu erkennen geben; wer KI-generierte Bilder oder Videos veröffentlicht, kennzeichnet sie. Die zunächst gefürchteten Hochrisiko-Pflichten betreffen dagegen fest umrissene Bereiche (etwa Biometrie, kritische Infrastruktur, Personalauswahl) und wurden per „AI Omnibus“ auf Ende 2027 bzw. 2028 verschoben.

DSGVO: die drei Grundregeln für KI im Betrieb

• Auftragsverarbeitung regeln: Jeder KI-Dienst, der personenbezogene Daten verarbeitet, braucht einen Auftragsverarbeitungsvertrag — und eine bewusste Entscheidung, welche Daten überhaupt hinein dürfen.
• Datenminimierung ernst nehmen: An ein KI-Modell geht nur der Ausschnitt, der für die Aufgabe nötig ist — nicht der ganze Ordner, nicht das ganze Postfach.
• Training ausschließen: Betriebs- und Kundendaten gehören nicht ins Training fremder Modelle. Seriöse Anbieter sichern das vertraglich zu; bei kostenlosen Consumer-Diensten ist oft das Gegenteil der Fall.

Kontrolle ist Architektur, nicht Vertrauen

Die wirksamste Compliance-Maßnahme steckt im Prozessdesign selbst: Kritische Aktionen — Versand, Buchung, Zusage — laufen über menschliche Freigabe; jede KI-Entscheidung wird protokolliert und bleibt korrigierbar; und im Zweifel legt das System einen Fall zur Prüfung vor, statt zu entscheiden (fail-closed). Wer so baut, erfüllt den Geist von AI Act und DSGVO nebenbei — und schläft unabhängig von Paragrafen besser.