ChatGPT und Co. im Betrieb: Was KI-Verordnung und Datenschutz verlangen

Angebotstexte entwerfen, Kundenanfragen beantworten, lange E-Mails zusammenfassen: Dafür lassen sich KI-Chatbots auch im Büro eines Handwerksbetriebs nutzen. In Anfragen und E-Mails können dabei personenbezogene Daten stecken. Die Datenschutzkonferenz (DSK) der deutschen Datenschutzaufsichtsbehörden ging 2024 davon aus, dass Beschäftigte KI-Anwendungen in vielen Unternehmen eigenmächtig nutzen.

Die europäische KI-Verordnung (KI-VO, englisch AI Act), die Verordnung (EU) 2024/1689, regelt unter anderem Pflichten für Anbieter und Betreiber von KI-Systemen wie Chatbots. Sie gilt unmittelbar in jedem Mitgliedstaat und wurde im Juli 2026 geändert. Daneben gilt die Datenschutz-Grundverordnung (DSGVO).

Für Betriebe, die KI-Chatbots nutzen, zählen vor allem drei Punkte: die KI-Kompetenz der Beschäftigten (Art. 4 KI-VO), je nach Einsatz die Offenlegung von KI-Inhalten (Art. 50 KI-VO) und der Schutz personenbezogener Daten nach der DSGVO.

Gilt die KI-Verordnung auch für Handwerks­betriebe?

Betreiber ist, wer „ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet“ (Art. 3 Nr. 4 KI-VO). Rein private Nutzung durch Einzelpersonen ist ausgenommen (Art. 2 Abs. 10 KI-VO). Ist der Betreiber eine juristische Person, etwa eine GmbH, sind Beschäftigte, die nach ihrer Weisung und unter ihrer Kontrolle handeln, laut Europäischer Kommission keine eigenen Betreiber. Die Pflicht zur KI-Kompetenz betrifft laut Bundesnetzagentur Anbieter und Betreiber unabhängig von Branche und Größe des Betriebs.

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3 KI-VO).

Prüffrage: Setzen Sie einen eigenen oder für Sie entwickelten Chatbot unter Ihrem Namen ein, etwa auf Ihrer Website? Dann klären Sie, ob Anbieterpflichten auf Sie zukommen. Die Leitlinie der Europäischen Kommission zu Art. 50 nennt als Beispiel für einen Anbieter ein Unternehmen, das einen Chatbot selbst entwickelt und unter eigenem Namen einsetzt (Rn. 11). Solche Leitlinien sind nicht verbindlich.

Fristen der KI-Verordnung: was seit wann gilt

Maßgeblich sind die Daten im Amtsblatt der EU.

Die Verordnung (EU) 2026/1744 hat die Hochrisiko-Termine verschoben. Ursprünglich vorgesehen waren der 2. August 2026 (Anhang III) und der 2. August 2027 (Anhang I).

KI-Kompetenz nach Artikel 4: was die Pflicht verlangt

KI-Kompetenz sind nach Art. 3 Nr. 56 KI-VO die Fähigkeiten, Kenntnisse und das Verständnis, um KI-Systeme sachkundig einzusetzen und sich der Chancen und Risiken von KI und möglicher Schäden bewusst zu werden.

Alte Fassung: Anbieter und Betreiber ergreifen Maßnahmen, „um nach besten Kräften sicherzustellen“, dass ihr Personal „über ein ausreichendes Maß an KI-Kompetenz“ verfügt.

Neue Fassung seit 27. Juli 2026: Anbieter und Betreiber ergreifen Maßnahmen, „um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“. Ein bestimmtes Niveau müssen sie für niemanden garantieren (Art. 4 Abs. 1 KI-VO). Die Pflicht bleibt, ihr Ziel ändert sich: unterstützen statt sicherstellen. Zu den Personen im Auftrag zählen laut Bundesnetzagentur auch Dienstleister.

Nicht vorgeschrieben sind laut Bundesnetzagentur ein bestimmtes Format, standardisierte Trainings, Zertifizierungen, ein KI-Beauftragter und ein bestimmtes Kompetenzniveau einzelner Personen.

Drei Grundsteine nennt die Bundesnetzagentur:

1. Bedarf ermitteln: Wer im Betrieb nutzt welches KI-Werkzeug wofür?
2. Maßnahmen gestalten: die Rolle des Betriebs, Ausbildung und Erfahrung der Beschäftigten sowie Kontext und Risiko der KI-Nutzung berücksichtigen, Ziele und Zuständigkeiten festlegen. Das Format ist frei, etwa Selbstlernprogramm, Workshop oder Schulung, intern oder extern.
3. Dokumentieren, evaluieren, auffrischen: Art, inhaltlichen und zeitlichen Umfang und Teilnehmende festhalten, die Maßnahmen regelmäßig überprüfen und das Wissen auffrischen, wenn sich KI-Werkzeuge oder ihr Einsatz ändern.

Sanktionen: Das deutsche Durchführungsgesetz (KI-MIG) nennt für Art. 4 keinen eigenen Bußgeldtatbestand. Die Einhaltung überwacht grundsätzlich die Bundesnetzagentur (§ 2 KI-MIG). Ein Mangel an KI-Kompetenz kann laut Bundesnetzagentur als Verletzung der Sorgfaltspflicht angesehen werden, insbesondere wenn dadurch ein Schaden entsteht. Daher empfiehlt die Behörde, die Maßnahmen gut zu dokumentieren.

Kennzeichnung: Wann KI-Inhalte offengelegt werden müssen

Die Kennzeichnungspflicht steht in Art. 50 KI-VO und gilt seit dem 2. August 2026. Für Betreiber zählt vor allem Absatz 4.

Deepfakes sind durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die echten Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt oder wahrheitsgemäß erscheinen würden (Art. 3 Nr. 60 KI-VO). Betreiber müssen offenlegen, dass solche Inhalte künstlich erzeugt oder manipuliert sind. Laut Europäischer Kommission soll der Hinweis für Menschen verständlich und wahrnehmbar sein, etwa sichtbar oder hörbar. Die maschinenlesbare Markierung des Anbieters allein reicht laut Kommission nicht, um diese Pflicht zu erfüllen.

KI-Texte sind offenzulegen, wenn sie veröffentlicht werden, „um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“ (Art. 50 Abs. 4 Unterabs. 2 KI-VO). Das entfällt, wenn ein Mensch den Text prüft und eine Person die redaktionelle Verantwortung trägt. Eine reine Rechtschreib- oder Grammatikprüfung zählt laut Kommission nicht als solche Prüfung.

Den Entwurf ihrer Leitlinie zu Art. 50 hat die Kommission am 20. Juli 2026 inhaltlich gebilligt; förmlich angenommen und anwendbar wird sie erst, wenn alle Sprachfassungen vorliegen. Verbindlich ist sie nicht, nennt aber Beispiele:

• Berufliche Korrespondenz mit einzelnen Personen, etwa eine E-Mail an einen Kunden, und interne Texte gelten nicht als veröffentlicht.
• Öffentliches Interesse betrifft etwa Politik, Verwaltung, öffentliche Gesundheit, Umweltschutz, Verbrauchersicherheit und wirtschaftliche Entwicklungen, über die öffentlich diskutiert werden kann.
• Werbetexte und Produktbeschreibungen nennt sie als Beispiel für Texte, die nicht unter die Textpflicht fallen. Aussagen etwa zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit nimmt sie von diesem Beispiel aus.
• Ein KI-Produktbild in der Werbung, das über Aussehen, Eigenschaften oder Verwendung des echten Produkts täuschen kann, gilt als Beispiel für einen Deepfake.
• Farbkorrekturen sowie Anpassungen oder der Austausch des Hintergrunds für eindeutig ästhetische Zwecke dürften dagegen nur wenig beeinflussen, ob Werbung und Produkt als echt wahrgenommen werden.

Prüffragen: Veröffentlichen Sie KI-Texte zu solchen Themen, etwa auf Ihrer Website, ohne dass ein Mensch sie prüft? Zeigt ein KI-Bild auf Ihrer Website oder in Anzeigen ein Produkt oder eine Arbeit anders als in Wirklichkeit?

Chatbot auf der Website: Den Hinweis, dass Menschen mit einer KI interagieren, schuldet nach Art. 50 Abs. 1 KI-VO der Anbieter. Klären Sie deshalb, wer Anbieter ist.

Ältere Inhalte, die vor dem 2. August 2026 erzeugt und veröffentlicht wurden, müssen laut Kommission nicht rückwirkend gekennzeichnet werden. Die Kommission regt aber an, das nachzuholen, wo es möglich ist.

Bewerbungen und Personal: Hochrisiko ab Dezember 2027

Hochrisiko-KI sind KI-Systeme in sensiblen Bereichen, für die zusätzliche Pflichten gelten. Nach Anhang III Nr. 4 Buchst. a KI-VO zählen dazu KI-Systeme, die für die Einstellung oder Auswahl von Personen bestimmt sind, „insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten“. Nach Buchst. b zählen auch KI-Systeme dazu, die für Entscheidungen bestimmt sind, die Arbeitsbedingungen, Beförderungen oder Kündigungen beeinflussen, für die Zuweisung von Aufgaben nach Verhalten oder persönlichen Merkmalen oder für die Beobachtung und Bewertung von Leistung und Verhalten der Beschäftigten. Ausnahmen regelt Art. 6 Abs. 3 KI-VO. Die Pflichten dafür gelten ab dem 2. Dezember 2027.

Schon heute gilt Art. 22 Abs. 1 DSGVO: Grundsätzlich muss niemand eine ausschließlich automatisierte Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung hinnehmen. Die DSK nennt ein Beispiel: Eine KI wertet alle Bewerbungen aus und verschickt selbstständig die Einladungen zum Vorstellungsgespräch. Das ist nach der DSK ein Verstoß.

Prüffrage: Sortiert in Ihrem Betrieb oder bei einem Dienstleister eine KI Bewerbungen vor, oder bewertet eine KI die Leistung von Beschäftigten?

Datenschutz: Was in den Chatbot darf und was nicht

Für jeden Verarbeitungsschritt mit personenbezogenen Daten braucht es laut DSK eine Rechtsgrundlage, also eine Erlaubnis nach Art. 6 Abs. 1 DSGVO, etwa die Einwilligung der betroffenen Person oder weil die Verarbeitung für die Erfüllung eines Vertrags mit ihr erforderlich ist.

Personenbezug: Personenbezogen sind alle Informationen über eine identifizierte oder identifizierbare natürliche Person, auch indirekt (Art. 4 Nr. 1 DSGVO). Namen und Anschriften zu entfernen reicht laut DSK und Hamburger Datenschutzaufsicht (HmbBfDI) nicht, weil sich der Bezug aus dem Zusammenhang ergeben kann. Laut HmbBfDI ist die Eingabe „Schreibe einen Werbetext zum Produkt X“ unproblematisch, die Eingabe „Welche Personen haben voraussichtlich Interesse am Produkt X?“ dagegen problematisch. Behält sich der Anbieter vor, Eingaben für eigene Zwecke zu nutzen, dürfen laut HmbBfDI keine personenbezogenen Daten von Kunden, Geschäftspartnern oder Beschäftigten hinein.

Einstellungen und Konten: DSK und HmbBfDI empfehlen, das KI-Training mit den Eingaben und den Verlauf abzuschalten. Statt privater Konten sollte der Betrieb berufliche Konten bereitstellen (DSK, HmbBfDI), sonst können laut DSK Profile zu Beschäftigten entstehen. Fragt der Dienst eine E-Mail-Adresse ab, hält die DSK eine Funktions-E-Mail-Adresse des Betriebs für geboten, also keine persönliche Adresse.

Auftragsverarbeitung: Nutzt ein Betrieb KI eines externen Anbieters als Cloud-Dienst, besteht laut DSK häufig eine Auftragsverarbeitung: Der Anbieter verarbeitet Daten im Auftrag des Betriebs. Dann ist ein Vertrag nach Art. 28 Abs. 3 DSGVO nötig, der Auftragsverarbeitungsvertrag. Die bayerische Datenschutzaufsicht (BayLDA) rät, dabei auf die Zweckbindung zu achten: Der Anbieter soll Eingaben nicht für eigene Zwecke nutzen, etwa zur Verbesserung seiner KI-Modelle.

Verarbeitungsverzeichnis: In das Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO gehört der KI-Einsatz laut BayLDA mit konkretem Zweck, etwa „MS Copilot zur Analyse von Kundendaten“. Die Ausnahme für Betriebe mit weniger als 250 Beschäftigten gilt nach Art. 30 Abs. 5 DSGVO unter anderem nicht, wenn die Verarbeitung nicht nur gelegentlich erfolgt.

Verarbeitungsort: Bei KI-Diensten aus der Cloud kommen laut DSK häufig Übermittlungen in Drittstaaten vor. Dafür gelten die Regeln in Kapitel V der DSGVO. Für die USA gilt der Angemessenheitsbeschluss der Kommission (Durchführungsbeschluss (EU) 2023/1795). Danach bieten die USA ein angemessenes Schutzniveau, aber nur für US-Organisationen auf der Liste des Datenschutzrahmens EU-USA (Data Privacy Framework). Ob ein Anbieter dort steht, prüft der Betrieb laut DSK selbst. Der Beschluss gilt (Stand: siehe Datum unter der Überschrift). Beim Gerichtshof der EU läuft aber noch ein Verfahren, in dem verlangt wird, ihn für nichtig zu erklären (Rechtsmittel C-703/25 P).

Werbung in ChatGPT: Laut Meldung des HmbBfDI vom 2. Oktober 2026 soll Werbung in ChatGPT in Europa künftig auf Persönlichkeitsprofile zugeschnitten werden, wenn Nutzende einwilligen. Dafür sollen frühere und aktuelle Chats, Geräteinformationen und Nutzungsdaten ausgewertet werden. Ohne Einwilligung soll Werbung erscheinen, die sich auf den aktuellen Chat bezieht. Betroffen sind die kostenlose Variante und das Abo-Modell ChatGPT Go. Die Behörde empfiehlt unter anderem, nicht in personalisierte Werbung einzuwilligen, die Verwendung der Chats zur Modellverbesserung zu deaktivieren, keine vertraulichen Informationen einzugeben und werbefreie Varianten zu nutzen. Zu Auftragsverarbeitungsverträgen äußert sich die Meldung nicht.

Geschäftsgeheimnisse und Ergebnisse: Geschäftsgeheimnisse können laut HmbBfDI über Trainingsdaten und laut DSK bei unberechtigtem Zugriff auf KI-Anwendungen in fremde Hände gelangen. Prüffrage: Welche Informationen sollen Dritte nicht sehen, etwa Kalkulationssätze oder Einkaufskonditionen? Jedes Ergebnis auf Richtigkeit zu prüfen, liegt laut HmbBfDI in der Verantwortung der Nutzenden. Wo KI in der Kalkulation hilft und wo nicht, zeigt der Ratgeber Kalkulation im Handwerk automatisieren.

Interne Regeln: ein Muster zum Anpassen

DSK und HmbBfDI empfehlen klare interne Regeln, ob und wofür welche KI-Anwendungen genutzt werden dürfen. Die DSK rät, darin Beispiele für erlaubte und untersagte Einsätze zu nennen.

1. Freigabe: Beruflich genutzt werden nur KI-Dienste, die die Geschäftsleitung mit Zweck freigegeben hat.
2. Erlaubt: etwa Entwürfe für Werbetexte, Formulierungshilfen, Ideensammlungen, Zusammenfassungen ohne Personenbezug.
3. Untersagt: Entscheidungen über Bewerbungen, Beschäftigte oder Kunden der KI zu überlassen.
4. Konten: nur betriebliche Konten mit Funktions-E-Mail-Adresse, starkem Passwort und zweitem Anmeldefaktor.
5. Einstellungen: Training mit Eingaben, Verlauf und Werbepersonalisierung abschalten, soweit möglich.
6. Daten: keine Kunden- oder Beschäftigtendaten und keine Geschäftsgeheimnisse in Chatbots, deren Anbieter Eingaben für eigene Zwecke nutzen darf. Personenbezogene Daten nur in Dienste mit geprüftem Verarbeitungsort und Auftragsverarbeitungsvertrag.
7. Prüfen: Jedes Ergebnis ist ein Entwurf. Fakten, Zahlen und Preise prüft ein Mensch vor der Verwendung.
8. Kennzeichnen: KI-Bilder, KI-Videos oder KI-Tonaufnahmen, die echt wirken und täuschen können, sichtbar oder hörbar kennzeichnen.
9. Schulen und dokumentieren: Wer KI nutzt, erhält eine Einweisung in Grundlagen, Risiken und diese Regeln. Datum, Inhalt und Teilnehmende werden festgehalten.
10. Ansprechperson: Fragen und Pannen gehen umgehend an eine benannte Person im Betrieb.

Wo Sie amtliche Auskunft bekommen

Für die KI-Verordnung zuständig ist nach dem KI-MIG grundsätzlich die Bundesnetzagentur: als Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle (§§ 2, 6 und 8 KI-MIG).

• KI-Service-Desk: Informationen zur Umsetzung und ein Kontaktformular für Fragen.
• KI-Compliance-Kompass: ein Online-Werkzeug zur Einschätzung, ob ein KI-System unter die Verordnung fällt und in welche Risikoklasse. Es bietet laut Bundesnetzagentur eine erste Orientierung und ist unverbindlich.
• Beschwerdestelle: Hier kann jede Person einen vermuteten Verstoß gegen die KI-Verordnung melden.

Geht es um personenbezogene Daten, verweist die Bundesnetzagentur auf die Datenschutzaufsicht. Zuständig ist die Aufsichtsbehörde Ihres Landes, in Baden-Württemberg die Landesdatenschutzaufsicht LfDI BW.

Häufige Fragen

Quellen

1. Amtsblatt der EU: Verordnung (EU) 2024/1689 (KI-Verordnung), 12.07.2024
2. Amt für Veröffentlichungen der EU: KI-Verordnung, konsolidierte Fassung (unverbindlich), 27.07.2026
3. Amtsblatt der EU: Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), 24.07.2026
4. Bundesgesetzblatt: Gesetz zur Durchführung der Verordnung über künstliche Intelligenz, BGBl. 2026 I Nr. 223, 28.07.2026
5. Bundesnetzagentur: KI-Kompetenz, ohne Datum
6. Bundesnetzagentur: KI-Service-Desk, ohne Datum
7. Bundesnetzagentur: Beschwerdestelle KI-Verordnung, ohne Datum
8. Europäische Kommission: AI Literacy, Questions and Answers, 27.07.2026
9. Europäische Kommission: Guidelines on transparency obligations, C(2026) 5054, inhaltlich gebilligter Entwurf, 20.07.2026
10. Europäische Kommission: Transparency obligations under Article 50 of the AI Act, 24.07.2026
11. Amtsblatt der EU: Verordnung (EU) 2016/679 (DSGVO), 04.05.2016
12. Amtsblatt der EU: Durchführungsbeschluss (EU) 2023/1795, Datenschutzrahmen EU-USA, 20.09.2023
13. Amtsblatt der EU: Rechtsmittel C-703/25 P, 22.12.2025
14. Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz, 06.05.2024
15. Datenschutzkonferenz: Anwendungshinweise Übermittlung in die USA, 04.09.2023
16. HmbBfDI: Checkliste zum Einsatz LLM-basierter Chatbots, 13.11.2023
17. HmbBfDI: Profiling im Chatbot: ChatGPT läuft in Europa bald mit hyperpersonalisierter Werbung, 02.10.2026
18. BayLDA: KI und Datenschutz, ohne Datum