Am 2. Februar ist der erste Teil des europäischen KI-Gesetzes in Kraft getreten. Das bedeutet, dass ein Teil der verfügbaren KI-Anwendungen inzwischen innerhalb Europas nicht mehr genutzt werden darf. Als Unternehmen ist es ratsam, genau zu wissen, was man mit KI noch tun darf und was nicht, insbesondere wenn Sie diese im Rahmen Ihrer täglichen Arbeit intensiv nutzen. In diesem Artikel informieren wir Sie umfassend über die KI-Anwendungen, die seit diesem Monat in Europa verboten sind, damit Sie bestens informiert sind!
1. Künstliche Intelligenz, die manipuliert oder täuscht
Erstens sind KI-Anwendungen, die Menschen manipulieren oder täuschen, seit diesem Monat in Europa verboten. Das lässt sich natürlich auf vielfältige Weise auslegen, denn wann handelt es sich nun wirklich um Manipulation oder Täuschung? Der Europäische Gerichtshof definiert dies wie folgt: „Systeme, die die Schwachstellen von Menschen, wie Alter oder Behinderung, ausnutzen, um sie zu beeinflussen“. Man darf also keine künstliche Intelligenz einsetzen, die in irgendeiner Weise eine Behinderung einer Person oder beispielsweise ein höheres oder gerade ein niedrigeres Alter ausnutzt.
2. KI-Anwendungen, die Social Scoring nutzen, sind nun verboten
KI-Anwendungen, die Social Scoring nutzen, sind seit diesem Monat auch in Europa streng verboten. Der Begriff „Social Scoring“ sagt dir sicher etwas. Dabei handelt es sich um die Vergabe einer bestimmten Bewertung an Menschen auf der Grundlage ihres Verhaltens, also um eine soziale Bewertung. Du darfst also keine künstliche Intelligenz mehr einsetzen, die Menschen anhand ihres sozialen Verhaltens oder bestimmter persönlicher Merkmale bewertet. Angenommen, du nutzt KI beispielsweise zum Scannen von Bewerbungen oder Lebensläufen, dann musst du sicher sein, dass dieses System die Bewerber nicht nach Alter, Geschlecht oder ethnischer Zugehörigkeit bewertet. Es ist schon länger bekannt, dass bestimmte KI-Anwendungen noch immer sehr stark zur Diskriminierung neigen, also achte hier besonders darauf!
3. Systeme, die schutzbedürftige Gruppen ausnutzen
Leider kann künstliche Intelligenz auch dazu genutzt werden, schutzbedürftige Gruppen auf „clevere“ Weise auszubeuten. Anwendungen, die dies in irgendeiner Weise tun, dürfen ab diesem Monat ebenfalls nicht mehr verwendet werden. Zu den schutzbedürftigen Gruppen zählen beispielsweise ältere Menschen, Menschen mit einer bestimmten Behinderung oder Beeinträchtigung, Menschen mit einer Sprachbarriere oder Menschen in einer bestimmten sozioökonomischen Situation. KI-Anwendungen, die speziell darauf ausgelegt sind, solche Personengruppen auszubeuten, dürfen nicht mehr genutzt werden.
4. Emotionserkennung am Arbeitsplatz und im Bildungswesen
Die Emotionserkennung mithilfe von KI am Arbeitsplatz und im Bildungswesen ist eine weitere Form der KI, die ab sofort in Europa verboten ist. Doch was versteht man eigentlich unter Emotionserkennung und wozu kann sie einem Arbeitgeber oder Lehrer dienen? Am Arbeitsplatz geht es vor allem um die kontinuierliche Überwachung von Mitarbeitern. Dies kann auf verschiedene Weise geschehen, beispielsweise durch die Erkennung von Augenbewegungen, der Tippgeschwindigkeit oder mittels Stimmerkennung. Eine weitere Methode, die wir heutzutage häufiger antreffen, ist die Überwachung durch Wearables, die Mitarbeiter tragen. Diese dienen dann der Messung von Stress- und Ermüdungswerten, oft um Unfälle am Arbeitsplatz zu verhindern.
Arbeitgeber geben oft an, diese Tools zur Förderung der Gesundheit und Sicherheit ihrer Mitarbeiter einzusetzen, doch natürlich hat dies auch eine große Kehrseite. Bei den Arbeitnehmern führt dies zu Ängsten und dem Gefühl, überwacht zu werden. Zudem kann es zu einer unverhältnismäßigen Belastung am Arbeitsplatz und sogar zu Burn-out, emotionaler Erschöpfung und weniger Arbeitsfreude führen. Aus diesem Grund ist es Arbeitgebern nicht mehr gestattet, KI zur Erkennung von Emotionen bei ihren Mitarbeitern einzusetzen.
5. Biometrische Identifizierung in Echtzeit im öffentlichen Raum
Die letzte Art von KI-Anwendungen, deren Nutzung ab sofort verboten ist, ist KI, die Echtzeit-Biometrie einsetzt, um Personen im öffentlichen Raum zu identifizieren. Dies bedeutet beispielsweise, dass ein KI-System Personen anhand von Echtzeit-Gesichtserkennung identifiziert. Für dieses Verbot gelten einige Ausnahmen. Biometrische Identifizierung in öffentlichen Räumen mithilfe künstlicher Intelligenz ist jedoch zur Suche nach vermissten Personen oder zur Abwehr schwerwiegender Bedrohungen zulässig.
Sorgen Sie für ausreichendes KI-Wissen in Ihrem Unternehmen
Neben dem Verbot bestimmter Formen von KI verpflichtet der europäische KI-Gesetz (AI Act) Unternehmen dazu, sicherzustellen, dass ihre Mitarbeiter über ausreichende Kenntnisse im Bereich KI verfügen. Diese Kenntnisse müssen ihrer Rolle innerhalb der Organisation und dem Kontext entsprechen, in dem KI vom Unternehmen eingesetzt wird. Es ist wichtig, dass Sie als Unternehmen über dieses Wissen selbst verfügen, anstatt von externen Experten abhängig zu sein. Die Nichteinhaltung des KI-Gesetzes kann nämlich sehr hohe Geldstrafen nach sich ziehen, die bis zu 35 Millionen Euro oder sieben Prozent des Jahresumsatzes Ihres Unternehmens betragen können. Stellen Sie also sicher, dass Sie keine KI-Anwendungen mehr nutzen, die derzeit in der EU verboten sind!