Die neue EU-KI-Verordnung – Was Kreative und Unternehmen jetzt wissen sollten

Was darf Künstliche Intelligenz in Zukunft eigentlich noch? Diese Frage stellen sich derzeit viele Unternehmer, Kreative und Jurist:innen. Die neue EU-KI-Verordnung (AI Act) bringt erstmals ein europaweites Regelwerk auf den Weg, das den Einsatz von KI-Systemen rechtlich einordnet – mit konkreten Vorgaben, Verboten und Transparenzpflichten. Doch was bedeutet das in der Praxis?

In dieser Podcast-Folge von Kaffeerecht erklären wir, was genau geregelt wird, welche Fallstricke existieren – und warum selbst ein kleines Unternehmen betroffen sein kann. Wir fassen die wichtigsten Punkte für euch zusammen.

Was ist die KI-Verordnung und warum betrifft sie euch?

Die EU-KI-Verordnung ist eine unmittelbar geltende Verordnung, also kein Gesetz, das erst durch nationale Gesetze umgesetzt werden muss. Sie gilt daher einheitlich in allen EU-Mitgliedsstaaten. Ihr Ziel: eine Balance zwischen Innovationsförderung und Schutz der Grundrechte.

Gerade für Unternehmen, die KI-Systeme nutzen – z. B. Chatbots, Bildgeneratoren oder automatisierte Kundensysteme – wird es wichtig sein, sich mit den neuen Regeln auseinanderzusetzen.

Auch wenn die Verordnung noch nicht in Kraft ist, steht der finale Text bereits fest. Eine Übergangsfrist von zwei Jahren für bestimmte nationale Umsetzungen (z. B. Einrichtung von Aufsichtsbehörden) ist vorgesehen – Handlungsbedarf besteht aber schon jetzt.

Was gilt überhaupt als Künstliche Intelligenz?

Die Verordnung liefert eine eigene Definition von KI. Danach ist ein KI-System ein maschinengestütztes System, das:

• mit unterschiedlichem Grad an Autonomie operieren kann,
• sich an neue Eingaben anpassen kann (Anpassungsfähigkeit),
• Ergebnisse, Empfehlungen oder Entscheidungen generiert, die die physische oder virtuelle Umgebung beeinflussen können.

Ein Beispiel: ChatGPT. Auch wenn es Einschränkungen gibt, etwa durch Filtermechanismen oder inhaltliche Vorgaben, erfüllt es im Großen und Ganzen die Kriterien eines KI-Systems im Sinne der Verordnung.

Vier Risikoklassen für KI – das steckt dahinter

Die Verordnung teilt KI-Systeme in vier Risikoklassen ein – abhängig vom Grad der möglichen Gefährdung für Menschen und Grundrechte:

1. Verbotene KI-Systeme (unannehmbares Risiko)

Diese Systeme sind ausnahmslos untersagt. Beispiele:

• Soziale Bewertungssysteme (Social Scoring)
• Manipulative KI zur Verhaltenssteuerung
• Emotionserkennung am Arbeitsplatz oder in der Schule (außer zu medizinischen Zwecken)
• Gesichtserkennung in Echtzeit (mit wenigen Ausnahmen bei schweren Straftaten)

2. KI-Systeme mit hohem Risiko

Hier wird es besonders relevant für Unternehmen. Darunter fallen Systeme, die:

• Biometrische Identifikation ermöglichen (z. B. Online-Ident-Verfahren)
• Personalentscheidungen automatisieren
• Im Bildungsbereich Prüfungen oder Bewerbungen bewerten
• Kritische Infrastrukturen steuern

➡️ Für diese Systeme gelten strenge Anforderungen, u. a. ein Risikomanagementsystem, menschliche Kontrolle(Stichwort: „Kill Switch“) und eine Gebrauchsanleitung für Nutzer:innen.

3. Begrenztes Risiko

Hier geht es vor allem um Transparenzpflichten. KI-Systeme mit begrenztem Risiko müssen:

• eindeutig als KI gekennzeichnet sein (z. B. Chatbots)
• Deepfakes als solche kenntlich machen
• das EU-Urheberrecht beachten, z. B. beim Training mit fremden Werken

Gerade bei der Verwendung von KI-generierten Inhalten im kreativen Bereich sollten Urheber:innen künftig klarstellen, ob ihre Werke für KI-Training freigegeben sind – etwa durch Metadaten mit Nutzungsvorbehalt.

4. Geringstes Risiko

Systeme wie Spamfilter oder einfache KI-gestützte Tools in Videospielen fallen unter diese Kategorie. Sie sind von der Regulierung ausgenommen – es sei denn, sie entwickeln sich in ihrer Nutzung weiter und betreffen plötzlich Grundrechte oder Sicherheit.

Was bedeutet das konkret für Unternehmer:innen und Kreative?

Die Verordnung betrifft nicht nur KI-Entwickler, sondern ausdrücklich auch berufliche Nutzer. Wer KI beruflich einsetzt – etwa für Kundenkommunikation, Content-Erstellung oder interne Tools – fällt in den Anwendungsbereich der Verordnung.

Das bedeutet:

• Transparenzpflichten (z. B. Hinweise auf KI-Generierung von Inhalten)
• Verbot, Entscheidungen ausschließlich durch KI zu treffen, etwa bei Vertragsabschlüssen oder Kündigungen
• Mögliche Verpflichtung zur Überwachung von KI-Systemen im Unternehmen

🔍 Tipp: Die EU bietet einen „AI Act Compliance Checker“, mit dem Unternehmen prüfen können, ob sie betroffen sind: EU Compliance Checker

Und was kommt jetzt?

Mit der KI-Verordnung steht ein Paradigmenwechsel bevor: Was bislang oft rechtlich unklar oder lückenhaft geregelt war, bekommt nun einen verbindlichen Rahmen. Für Kreative, Unternehmen und Softwareanbieter ist jetzt der richtige Zeitpunkt, um sich vorzubereiten.

💡 Podcast-Tipp: Wer tiefer einsteigen möchte, dem empfehlen wir die komplette Folge von Kaffeerecht mit Dennis Tölle und Marvin Erifei. Hier wird praxisnah erläutert, was sich hinter Begriffen wie „hohes Risiko“ oder „Transparenzpflicht“ konkret verbirgt – inklusive Einschätzungen zur Umsetzung in Deutschland.

🎧 Jetzt reinhören und informiert bleiben!