KI-Einsatz im Unternehmensalltag: Rechtliche Fallstricke vermeiden

von Rechtsanwalt Dr. Marc Laukemann*

Was ist KI und warum ist das rechtlich wichtig? 

Künstliche Intelligenz (KI) bezieht sich auf Systeme, die selbstständig Aufgaben erledigen, die normalerweise menschliche Intelligenz erfordern. Diese Technologien sind besonders fortschrittlich und können Entscheidungen treffen, die echte Auswirkungen auf die reale und virtuelle Welt haben. Laut der neuen EU-KI-Verordnung werden diese Systeme nach ihrem Risikopotenzial klassifiziert.

Rechtliche Herausforderungen beim Einsatz von KI 

Die Datenschutz-Grundverordnung (DSGVO) setzt den rechtlichen Rahmen für den Einsatz von KI. Ein kritischer Punkt ist, dass wenn ausschließlich anonymisierte Daten verwendet werden, die DSGVO nicht anwendbar ist. Dies bedeutet, dass viele der nachfolgenden Datenschutzgrundsätze nicht greifen.

Rechtsgrundlagen für den Einsatz von KI 

Die Rechtmäßigkeit der Datenverarbeitung im Rahmen der DSGVO stützt sich insbesondere auf Artikel 6 und 9. Speziell im Beschäftigungskontext ist auch § 26 BDSG von Bedeutung. Eine klare, gesetzlich fundierte Grundlage ist erforderlich, um die Verarbeitung personenbezogener Daten zu rechtfertigen.

Bewerbungsverfahren und KI 

KI im Bewerbungsprozess muss den Artikeln 6 Abs. 1 lit. b und 22 DSGVO entsprechen. Die Nutzung von KI muss notwendig, geeignet und verhältnismäßig sein, um rechtmäßig zu sein. Jede Verarbeitung muss die Rechte der Bewerber wahren und transparent sein.

KI im Arbeitsverhältnis 

Die fortgesetzte Nutzung von KI, wie z.B. bei der Personalverwaltung, muss ebenfalls den strengen Anforderungen der DSGVO entsprechen. Eine Überwachung der Mitarbeiter durch KI muss durch Artikel 6 DSGVO gerechtfertigt und beschränkt sein.

Datenschutzrechtliche Haftung und Haftung für KI-Anwendungen 

Unternehmen sind direkt verantwortlich für alle datenschutzrechtlichen Verletzungen, die durch die von ihnen eingesetzte KI entstehen können. Dies umfasst potentielle Schadensersatzansprüche nach Artikel 82 DSGVO. Die Einführung der KI-Haftungsrichtlinie der EU soll den Zugang zu Beweismitteln erleichtern und klarere Regelungen für die Haftung bei KI-bezogenen Schäden schaffen.

Checkliste für die Rechtskonformität

1. Grundlagen des Datenschutzes

• Verstehe ich, welche Daten als anonymisiert gelten und wann die DSGVO nicht greift?

• Habe ich eine klare Rechtsgrundlage für die Verarbeitung personenbezogener Daten (Art. 6, 9 DSGVO; § 26 BDSG)?

2. Transparenz und Informationspflichten

• Informiere ich klar über die Nutzung und Ziele der KI?
• Sind die Nutzer über ihre Rechte gemäß Art. 12 ff. DSGVO vollständig informiert?

3. Bewerbungsverfahren und Beschäftigungsverhältnis

• Stelle ich sicher, dass die Nutzung von KI im Bewerbungsverfahren den Artikel 22 DSGVO beachtet?
• Überprüfe ich, ob die KI im Beschäftigungsverhältnis den Datenschutzvorgaben entspricht?

4. Technische und organisatorische Maßnahmen

• Implementiere ich angemessene Schutzmaßnahmen (Art. 32 DSGVO)?
• Führe ich regelmäßig Überprüfungen dieser Maßnahmen durch?

5. Haftung und Datenschutzfolgenabschätzung

• Habe ich eine Datenschutzfolgenabschätzung durchgeführt (Art. 35 DSGVO)?
• Bereite ich mich auf mögliche Haftungsfragen im Zusammenhang mit der Nutzung von KI vor?

6. Entwicklung unternehmensinterner KI-Richtlinien

• Habe ich KI-Richtlinien auf der Basis der Anforderungen und Risiken für mein Unternehmen entwickelt?
• Beinhalten diese Richtlinien klare Vorgaben zur Herkunft der Daten, Umgang mit geistigem Eigentum, Handhabung von KI-Ergebnissen und Verfahren bei Fehlern oder Bias?

7. Schulungen und Sensibilisierung

• Führe ich regelmäßige Schulungen und Workshops durch, um die Beschäftigten über die richtige Nutzung und potentielle Risiken von KI zu informieren?
• Nutze ich interne Kommunikationskanäle, um Erfahrungen auszutauschen und Feedback zu sammeln?

8. Vorbereitung auf die KI-Verordnung

• Überprüfe ich, ob meine KI-Anwendungen den neuen EU-Vorschriften entsprechen, insbesondere hinsichtlich der Klassifizierung und der damit verbundenen Risiken?
• Plane ich Anpassungen meiner KI-Systeme im Hinblick auf die bevorstehende Anwendung der KI-VO?

Weiterführende Informationen:

• Gesetz über künstliche Intelligenz: Parlament verabschiedet wegweisende Regeln | Aktuelles | Europäisches Parlament (europa.eu)
• Stohwasser, Suchy et al., Whitepaper: „Einführung von KI-Systemen in Unternehmen – Gestaltungsansätze für das Change-Management“

https://www.verdi.de/++file++6270fb361aba155942c489e6/download/AG2_Whitepaper_Change_Management.pdf

Dieses Whitepaper bietet praktische Ansätze für die Einführung von KI-Systemen in Unternehmen. Es legt besonderen Wert auf das Change-Management und stellt sicher, dass die Einführung von KI reibungslos und im Einklang mit sowohl technischen als auch ethischen Standards erfolgt. Unternehmen werden ermutigt, nicht nur die technische Implementierung zu beachten, sondern auch die kulturellen und organisatorischen Veränderungen zu berücksichtigen, die mit der Einführung von KI verbunden sind.

*Rechtsanwalt Dr. Marc Laukemann ist Gründungspartner von LFR Wirtschaftsanwälte und unter anderem Fachanwalt für gewerblichen Rechtsschutz. Er beschäftigt sich seit Jahren mit digitalen Geschäftsmodellen. Weitere Informationen unter: Online- und IT-Recht - LFR Wirtschaftsanwälte (lfr-law.de)