EU will Standards im Umgang mit Künstlicher Intelligenz setzen
Die fortschreitende Entwicklung Künstlicher Intelligenz bringt diverse Vorteile mit sich – aber auch Risiken. Letztere will die EU mit der im März 2024 auf den Weg gebrachten KI-Verordnung mindern. Gleichzeitig sollen die enormen wirtschaftlichen Chancen der KI gefördert werden.
Bereits im Dezember 2023 hatten sich EU-Parlament und Mitgliedsstaaten auf einen Entwurf verständigt, nun gab es im Plenum grünes Licht für die Umsetzung. 2026 sollen dann alle Punkte des Gesetzes vollständig umgesetzt sein.
Das Gesetz sieht vor, KI-Systeme künftig in unterschiedliche Risikogruppen zu kategorisieren. Je höher die potenziellen Gefahren für Missbrauch sind oder je kritischer die Infrastruktur, in der die KI zum Einsatz kommt, desto höher sollen die Restriktionen für die jeweilige KI-Anwendung sein.
KI-Systeme der höchsten Risikogruppe sind ausdrücklich verboten, in die zweithöchste Risikoklasse fallen Anwendungen, die ein „erhebliches Schadenspotenzial“ etwa für die Demokratie, die Gesundheit oder die Sicherheit haben. Für sie wurden diverse Restriktionen erlassen sowie Beschwerdemöglichkeiten für Betroffene eingeräumt. KI-Anwendungen wie die bereits etablierten Chatbots werden hingegen nur wenig reguliert.
Welche KI-Anwendungen in der EU künftig verboten sind
Ein konkretes Verbot für Unternehmen besteht beispielsweise in der Emotionserkennung am Arbeitsplatz mittels KI. Damit könnten Firmen beim Bewerbungsgespräch oder im Assessment Center Gefühle der Bewerber erfassen.
Grundsätzlich dürfen KI-Anwendungen Menschen nicht aufgrund ihrer Hautfarbe, Religion oder sexuellen Orientierung in Kategorien einteilen. Und auch das sogenannte „Social Scoring“ ist verboten, wobei KI zur Echtzeit-Gesichtserkennung im öffentlichen Raum verwendet wird. China überwacht mit dieser Technik das Verhalten der Bürger.
Auch die biometrische Gesichtserkennung im öffentlichen Raum ist grundsätzlich verboten. Allerdings gibt es Ausnahmen für die Strafverfolgung bei schweren Straftaten, etwa wenn die Polizei einen Anschlag verhindern will oder nach Opfern von Menschenhandel sucht. Auch dürfen Behörden KI-gesteuerte Gesichtserkennung an öffentlichen Orten nutzen, wenn eine richterliche Anordnung vorliegt.
Für Unternehmen, die sich nicht an die Vorgaben halten, drohen künftig Geldbußen: Abhängig vom Verstoß und der Größe des Betriebes können bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes fällig werden.
Anforderungen an KI-Chatbots
KI-Chatbots wie ChatGPT werden vom KI-Gesetz nicht als kritisch eingestuft, müssen aber Transparenzanforderungen und das EU-Urheberrecht erfüllen: So müssen Anwender offenlegen, dass Inhalte durch eine KI generiert wurden. Das gilt nicht nur für Texte, sondern auch für Bilder, Audio- oder Videodateien. Zudem müssen die urheberrechtlich geschützten Daten publik gemacht werden, die für das Training verwendet wurden.
So soll das Gesetz Innovationen unterstützen
Vor allem KMU und Startups soll mit dem Gesetz geholfen werden, KI-Modelle zu entwickeln und zu trainieren. Für diesen Zweck sind die nationalen Behörden künftig verpflichtet, den Unternehmen eine Testumgebung (Reallabore) zur Verfügung zu stellen, die realitätsnahe Bedingungen simuliert.
Unternehmen sind sich der Gefährdung durch KI bewusst
Obwohl die meisten Unternehmen Künstlicher Intelligenz offen gegenüberstehen und solche Anwendungen in ihre Arbeitsprozesse bereits integriert haben, sind sie sich der Risiken durchaus bewusst. Wie eine Bitkom-Umfrage aus dem Jahr 2023 ergab, sehen 69 Prozent der Teilnehmer potenzielle Sicherheitsrisiken im IT-Bereich, 70 Prozent fürchten mögliche Verstöße gegen Datenschutzvorgaben. Und auch Anwendungsfehler bei der KI-Nutzung (67 Prozent) wurde oft als Risiko genannt.
Kostenlose Whitepaper
Alles Wichtige aus der B2B Welt erfahren Sie hier bei uns.
- aktuell und kompakt
- alle wichtigen Daten
- immer einen Schritt voraus
