Die neuen KI-Regeln sind da. Was müssen Unternehmen dringend beachten?

Neue KI-Regeln - dringender #Handlungsbedarf für #Unternehmen: Ab jetzt müssen alle Unternehmen, die KI-Systeme wie DeepL, Microsoft Copilot, ChatGPT, UnternehmensGPTs und Adobe Firefly einsetzen oder entwickeln, ihrem Personal und weiteren Personen KI-Kompetenz vermitteln. Außerdem sind seit dem 2.2.2025 bestimmte KI-Praktiken verboten:

1. KI-Kompetenz (Art. 4 AI Act):
- Jedes Unternehmen muss sicherstellen, dass sein Personal und andere Personen, die im Auftrag des Unternehmens KI-Systeme einsetzen oder entwickeln, ab dem 2.2.2025 ausreichend geschult sind.
- Verstöße können zu Bußgeldern und Schadensersatzforderungen führen. Diese Rechtsfolgen sind im AI Act nicht genannt. Gerade deshalb lauern hier Haftungsrisiken, die Unternehmen durch die richtigen Maßnahmen reduzieren können.
2. Verbotene KI-Praktiken (Art. 5 AI Act):
- Der AI Act verbietet bestimmte KI-Praktiken, die aus Sicht der EU unannehmbare Risiken enthalten. Dies wirft zahlreiche Fragen auf: Sind Emotionsanalysen (Sentiment-Analysen) von Mitarbeitern erlaubt, wenn hierfür E-Mails ausgewertet werden? Welche Gesichtserkennungssysteme oder Systeme zur biometrischen Identifizierung und Klassifizierung von Personen sind künftig noch erlaubt? Was sind „ausbeuterische und manipulative KI-Praktiken“? Wo beginnt Social Scoring?
- Verstöße können zu drakonischen Bußgeldern von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes führen.

Drei #Sofortmaßnahmen, die Sie jetzt ergreifen sollten:
1.      Bestandsaufnahme aller in Ihrem Unternehmen verwendeten KI-Systeme und Prüfung auf verbotene Praktiken.
2.      Einführung von Schulungen und Maßnahmen zur Vermittlung von KI-Kompetenz.
3.      Implementierung eines angemessenen KI-Governance-Systems. Eine effiziente KI-Governance minimiert nicht nur rechtliche Risiken, sondern stärkt auch das Team und regt Innovationen an.

Wir kennen die Themen, die nun auf Unternehmen zukommen. Wenden Sie sich bei Fragen gerne an unseren Partner Dr. Frederic Geber
#AIAct #KIGovernance #Compliance #Kompetenz #KIKompetenz
KI Park