Schlagwort: künstliche Intelligenz

  • KI-Omnibus in Kraft: Hochrisiko-Pflichten erst ab Dezember 2027

    Eigentlich sollten am 2. August 2026 große Teile der KI-Verordnung gelten, insbesondere die strengen Regeln für Hochrisiko-KI-Systeme. Kurz vor diesem Stichtag hat der EU-Gesetzgeber den Zeitplan geändert: Die Verordnung (EU) 2026/1744, der sogenannte KI-Omnibus, wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist am 27. Juli 2026 in Kraft getreten. Unternehmen gewinnen bei Hochrisiko-Systemen Zeit bis Ende 2027 bzw. 2028. Die Transparenzpflichten gelten aber schon jetzt, und die DSGVO bleibt der wichtigste rechtliche Rahmen für KI mit Personenbezug.

    Die neuen Fristen für Hochrisiko-KI

    • Für eigenständige Hochrisiko-Systeme nach Anhang III, etwa in den Bereichen Beschäftigung (z. B. Bewerberauswahl), Bildung, Kreditwürdigkeitsprüfung, Strafverfolgung oder kritische Infrastruktur, gelten die Pflichten nicht mehr ab dem 2. August 2026, sondern ab dem 2. Dezember 2027.
    • Für KI in Produkten nach Anhang I, die bereits EU-Produktsicherheitsrecht unterliegen, etwa Medizinprodukte, Maschinen oder Spielzeug, verschiebt sich der Termin auf den 2. August 2028.

    Was nicht verschoben wurde

    Die Transparenzpflichten gelten weiterhin ab dem 2. August 2026. Dazu gehört insbesondere, dass Menschen erkennen können müssen, wenn sie mit einem KI-System interagieren, dass Deepfakes und bestimmte KI-generierte Inhalte zu kennzeichnen sind und dass über den Einsatz von Emotionserkennung und biometrischer Kategorisierung zu informieren ist. Für bestimmte maschinenlesbare Kennzeichnungspflichten bei generativen KI-Systemen, die bereits vor dem 2. August 2026 auf dem Markt waren, gibt es eine kurze Übergangsfrist von vier Monaten.

    Unverändert gelten außerdem die seit Februar 2025 anwendbaren Verbote bestimmter KI-Praktiken und die Pflicht zur Förderung der KI-Kompetenz; siehe unseren Beitrag „KI-Kompetenz nach Art. 4 AI Act“.

    Und die DSGVO?

    Die Verschiebung betrifft nur die KI-Verordnung. Die DSGVO gilt unverändert für jede KI-Anwendung, die personenbezogene Daten verarbeitet. Gerade im Personalbereich bleiben damit die Anforderungen an Rechtsgrundlage, Transparenz, Datenschutz-Folgenabschätzung und automatisierte Einzelentscheidungen (Art. 22 DSGVO) voll bestehen. Wie weit Art. 22 DSGVO reicht, hat der EuGH im SCHUFA-Urteil gezeigt; welche Erklärungen Betroffene verlangen können, im Urteil Dun & Bradstreet.

    Was Unternehmen jetzt tun sollten

    1. Chatbots auf der Website als KI kennzeichnen und KI-generierte Bilder und Texte prüfen.
    2. Das KI-Inventar aktualisieren: Welche Systeme fallen künftig unter Anhang III?
    3. Die gewonnene Zeit nutzen und Hochrisiko-Anwendungen, etwa eine KI-gestützte Bewerbervorauswahl, strukturiert vorbereiten statt abzuwarten.
    4. Den Datenschutz nicht aus dem Blick verlieren: DSFA, Informationspflichten und Auftragsverarbeitungsverträge gelten bereits heute.

    Die Gesamtschau der KI-Verordnung finden Sie in unserem Beitrag „KI-Verordnung (AI Act) in Kraft“. Welche KI-Pflichten Ihr Unternehmen wann treffen, klären wir gern im Einzelnen mit Ihnen: Kontakt aufnehmen oder Termin buchen.

  • KI-Verordnung (AI Act) in Kraft: Was KMU jetzt wissen müssen

    Am 1. August 2024 ist die europäische KI-Verordnung (Verordnung (EU) 2024/1689, „AI Act“) in Kraft getreten. Sie ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Ihre Pflichten gelten gestaffelt in den kommenden Jahren; für die meisten KMU sind sie zunächst überschaubar. Wer KI-Tools nutzt, vom Chatbot bis zur Bewerbervorauswahl, sollte sich jetzt einen Überblick verschaffen.

    Der risikobasierte Ansatz

    • Bestimmte KI-Anwendungen werden verboten, etwa Social Scoring durch Behörden, manipulative Techniken oder Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (mit engen Ausnahmen).
    • Hochrisiko-KI-Systeme in sensiblen Bereichen wie Beschäftigung (z. B. Auswahl von Bewerbern), Bildung, Kreditwürdigkeitsprüfung oder kritische Infrastruktur unterliegen strengen Anforderungen.
    • Transparenzpflichten gelten etwa für Chatbots, die als KI erkennbar sein müssen, und für KI-generierte Inhalte wie Deepfakes.
    • Die meisten KI-Anwendungen fallen in keine dieser Kategorien und unterliegen nur wenigen Pflichten.

    Zusätzlich enthält die Verordnung eigene Regeln für KI-Modelle mit allgemeinem Verwendungszweck, also die großen Sprachmodelle hinter Diensten wie ChatGPT. Diese richten sich in erster Linie an deren Anbieter.

    Die wichtigsten Fristen

    • Ab 2. Februar 2025 gelten die Verbote bestimmter KI-Praktiken und die Pflicht zur Förderung von KI-Kompetenz (Art. 4).
    • Ab 2. August 2025 gelten die Regeln für KI-Modelle mit allgemeinem Verwendungszweck und die Sanktionsvorschriften.
    • Ab 2. August 2026 gilt der Großteil der übrigen Vorschriften, insbesondere für viele Hochrisiko-Systeme.
    • Ab 2. August 2027 folgen weitere Vorschriften für bestimmte Hochrisiko-Systeme, die in regulierte Produkte eingebettet sind.

    Anbieter oder Betreiber?

    Die meisten KMU entwickeln keine KI, sondern setzen KI-Systeme anderer ein. Sie sind dann „Betreiber“ im Sinne der Verordnung. Betreiber von Hochrisiko-Systemen müssen unter anderem die Systeme gemäß Gebrauchsanweisung verwenden, eine menschliche Aufsicht durch kompetentes Personal sicherstellen, Eingabedaten auf Relevanz prüfen, Protokolle aufbewahren und im Beschäftigungskontext Beschäftigte und deren Vertretungen vorab informieren. Schon ab Februar 2025 müssen Unternehmen zudem dafür sorgen, dass ihr Personal, das mit KI-Systemen arbeitet, über ausreichende KI-Kompetenz verfügt.

    Verhältnis zur DSGVO

    Der AI Act lässt die DSGVO unberührt. Sobald ein KI-System personenbezogene Daten verarbeitet, gelten beide Regelwerke nebeneinander: Rechtsgrundlage, Transparenz, Betroffenenrechte, gegebenenfalls Datenschutz-Folgenabschätzung. Hinzu kommt Art. 22 DSGVO zu automatisierten Einzelentscheidungen, den der EuGH im SCHUFA-Urteil weit ausgelegt hat. Praktische Hinweise zum datenschutzkonformen Einsatz von KI-Chatbots finden Sie in unserer ChatGPT-Checkliste.

    Erste Schritte

    1. Inventar aller im Unternehmen genutzten KI-Systeme erstellen.
    2. Jedes System einer Risikokategorie zuordnen.
    3. Schulungskonzept für KI-Kompetenz bis Februar 2025 aufsetzen.
    4. KI-Richtlinie mit Datenschutz- und Vertraulichkeitsregeln einführen.
    5. Bei HR-Tools zur Bewerberauswahl besonders genau prüfen, ob ein Hochrisiko-System vorliegt.

    Wer Hochrisiko-Anwendungen nutzt, sollte die Zeit bis August 2026 für eine strukturierte Vorbereitung nutzen; die DSGVO gilt ohnehin schon heute für jede KI, die personenbezogene Daten verarbeitet. Welche Pflichten der AI Act für Ihr Unternehmen konkret mit sich bringt, klären wir gern mit Ihnen. Kontaktieren Sie uns oder buchen Sie einen Termin.

  • Kann künstliche Intelligenz (KI) dazu beitragen Datenschutz zu verbessern?

    Künstliche Intelligenz (KI) kann auf verschiedene Weisen dazu beitragen, den Datenschutz zu verbessern. Hier sind einige Möglichkeiten, wie KI den Datenschutz fördern kann:

    1. Automatisierte Datenerkennung und -klassifikation: KI kann dazu verwendet werden, sensible Daten in großen Datensätzen automatisch zu erkennen und zu klassifizieren. Dies erleichtert die Einhaltung von Datenschutzbestimmungen, da Unternehmen so besser wissen, welche Art von Daten sie speichern und wie sie diese schützen müssen.
    2. Anomalieerkennung: KI-Systeme können ungewöhnliche Aktivitäten oder verdächtige Muster in Datensätzen erkennen. Dies hilft dabei, potenzielle Datenschutzverletzungen oder Sicherheitsprobleme frühzeitig zu identifizieren.
    3. Verschlüsselung und sichere Kommunikation: KI kann bei der Entwicklung fortschrittlicher Verschlüsselungsalgorithmen und sicherer Kommunikationssysteme unterstützen, um Daten vor unbefugtem Zugriff zu schützen.
    4. Datenschutz im Internet der Dinge (IoT): KI kann in IoT-Geräten und -Systemen eingesetzt werden, um sicherzustellen, dass persönliche Daten, die von diesen Geräten gesammelt werden, angemessen geschützt sind.
    5. Automatisierte Datenschutzrichtlinien: KI kann Unternehmen bei der Erstellung und Aktualisierung von Datenschutzrichtlinien unterstützen, indem sie automatisch Änderungen in Datenschutzbestimmungen und -vorschriften verfolgt und diese in die Unternehmensrichtlinien integriert.
    6. Datenschutz durch Design: KI kann dazu beitragen, Datenschutz von Anfang an in Produkte und Dienstleistungen zu integrieren, indem sie bei der Konzeption von Systemen und Anwendungen datenschutzfreundliche Funktionen und Einstellungen fördert.
    7. Personalisierter Datenschutz: KI kann personalisierte Datenschutzeinstellungen für Benutzer empfehlen und ermöglichen, um ihnen mehr Kontrolle über ihre eigenen Daten zu geben.
    8. Data Minimization: KI kann dazu verwendet werden, die Menge der gesammelten Daten zu minimieren, indem sie unnötige Datenerhebungen identifiziert und eliminiert.
    9. Datenschutzfolgenabschätzung: KI kann Unternehmen dabei unterstützen, Datenschutzfolgenabschätzungen (DPIAs) durchzuführen, um die potenziellen Risiken für die Privatsphäre bei bestimmten Datenverarbeitungsaktivitäten zu bewerten.
    10. Erkennung von Deepfakes und Betrug: KI kann eingesetzt werden, um Deepfake-Videos und Betrugsversuche zu erkennen und so die Integrität von Daten und Informationen zu schützen.

    Es ist jedoch wichtig zu beachten, dass KI selbst auch Datenschutzfragen aufwirft, insbesondere wenn sie zur Analyse persönlicher Daten eingesetzt wird. Daher müssen bei der Verwendung von KI-Lösungen Datenschutzrichtlinien und -vorschriften beachtet werden, um sicherzustellen, dass die Privatsphäre der Benutzer geschützt wird.

  • ChatGPT im Unternehmen: Datenschutz-Checkliste für Arbeitgeber

    Seit Ende 2022 hat ChatGPT einen beispiellosen Boom ausgelöst. Texte entwerfen, E-Mails formulieren, Dokumente zusammenfassen: Viele Beschäftigte nutzen KI-Chatbots bereits im Arbeitsalltag, oft ohne Wissen des Arbeitgebers. Datenschutzrechtlich ist das nicht ohne Risiko. Ende März 2023 hat die italienische Datenschutzbehörde die Verarbeitung von Daten italienischer Nutzer durch ChatGPT vorläufig beschränkt; das Thema steht damit auch bei anderen europäischen Aufsichtsbehörden auf der Agenda. Unternehmen sollten den Umgang mit KI-Chatbots deshalb jetzt aktiv regeln.

    Wo liegen die Risiken?

    • Wer Kundenanfragen, Bewerbungen oder Gesprächsnotizen in einen Chatbot kopiert, übermittelt personenbezogene Daten an den Anbieter. Dafür braucht es eine Rechtsgrundlage, und die fehlt in vielen Fällen.
    • Je nach Einstellungen und Vertragsbedingungen können Eingaben vom Anbieter zur Verbesserung seiner Modelle verwendet werden. Die Kontrolle über die Daten geht dann verloren.
    • Die bekanntesten Anbieter sitzen in den USA. Seit dem Schrems-II-Urteil ist eine Übermittlung dorthin nur mit zusätzlichen Garantien möglich.
    • Neben dem Datenschutz sind Vertraulichkeitspflichten betroffen, also Geschäfts- und Berufsgeheimnisse. Für Ärzte, Anwälte oder Steuerberater ist das sogar strafrechtlich bewehrt.
    • KI-Systeme können falsche Aussagen über Personen erzeugen. Werden diese übernommen, kann das Persönlichkeitsrechte verletzen.

    Checkliste für Unternehmen

    1. Erheben Sie, welche KI-Tools im Unternehmen bereits genutzt werden, von wem und wofür.
    2. Legen Sie in einer Richtlinie fest, welche Tools für welche Aufgaben zugelassen sind. Die Grundregel lautet: keine personenbezogenen Daten und keine vertraulichen Informationen in frei zugängliche Chatbots.
    3. Prüfen Sie Unternehmenslizenzen. Business-Angebote bieten teils vertragliche Zusicherungen, etwa zum Ausschluss der Nutzung für Training, und einen Auftragsverarbeitungsvertrag.
    4. Deaktivieren Sie Chatverlauf und Trainingsnutzung, soweit möglich.
    5. Schulen Sie die Beschäftigten: Sie müssen wissen, was sie eingeben dürfen und dass Ergebnisse geprüft werden müssen.
    6. Sollen personenbezogene Daten in größerem Umfang verarbeitet werden, ist zu prüfen, ob eine Datenschutz-Folgenabschätzung erforderlich ist.
    7. Binden Sie den Betriebsrat ein. Wird die Nutzung technisch gesteuert oder ausgewertet, können Mitbestimmungsrechte bestehen.

    Verbieten oder gestalten?

    Ein pauschales Verbot ist schwer durchzusetzen und verschenkt Potenzial. Erfolgversprechender ist ein kontrollierter Einsatz mit freigegebenen Tools, klaren Regeln und geschulten Beschäftigten. Für viele Aufgaben, etwa das Formulieren allgemeiner Texte ohne Personenbezug, lassen sich KI-Werkzeuge risikoarm nutzen.

    Regulatorischer Ausblick

    Auf europäischer Ebene wird derzeit über eine KI-Verordnung verhandelt, die Pflichten für Anbieter und Nutzer von KI-Systemen festlegen soll. Unabhängig davon gilt schon heute: Sobald personenbezogene Daten verarbeitet werden, ist die DSGVO anwendbar.

    Die wichtigste Regel bleibt einfach: keine personenbezogenen oder vertraulichen Daten in öffentliche KI-Dienste. Für Ihre KI-Richtlinie, die Verträge mit Anbietern und die Risikobewertung stehen wir Ihnen zur Verfügung. Nehmen Sie Kontakt auf oder vereinbaren Sie einen Termin.