Das Ende des „Wilden Westens“?
Der Einsatz von künstlicher Intelligenz (KI) hinkt im Mittelstand hinterher. Nachholbedarf und erhebliches Potenzial gibt es unter anderem in den Bereichen Kundeninformationssysteme und Prozessautomatisierung. Das hat auch die EU erkannt – sowohl die Vorteile als auch die Risiken.
Am 21. April 2021 hat die EU-Kommission den weltweit ersten Gesetzesvorschlag für KI vorgelegt. Das Ziel ist klar umrissen. Einerseits soll deren Entwicklung und Nutzung gefördert werden. Andererseits sollen aber die damit verbundene Gefahren geregelt und sichergestellt werden, damit in der EU nur sogenannte „vertrauenswürdige“ KI-Systeme zum Einsatz kommen. Das noch zu verabschiedende Regelwerk, das auch für ausländische Unternehmen gelten soll, wird voraussichtlich erst in ein bis zwei Jahren in Kraft treten. Firmen, die KI bereits einsetzen oder zum Einsatz bringen wollen, sollten den Inhalt der KI-Verordnung aber bereits jetzt kennen. Verfolgt wird ein sogenannter „risikobasierten“ Ansatz der EU.
Unterschiedliche Risiken beachtet
Der Verordnungsentwurf differenziert zwischen vier verschiedenen Risiken und Gefahren: Je höher die möglichen Gefahren sind, desto höher sind auch die Anforderungen an das KI-System.
- Unannehmbares Risiko: KI-Systeme, die eine klare Bedrohung für die Sicherheit, das Leben und die Rechte von Bürgern darstellen, werden verboten: Dazu gehört etwa das „Social Scoring“. Gemeint ist die Bewertung von sozialem Verhalten durch Behörden oder Spielzeuge mit Sprachassistenz für Minderjährige.
- Hohes Risiko: KI-System mit hohem Risiko sind etwa KI-Lösungen in Bezug auf die kritische Infrastruktur, Schul- oder Berufsausbildung, biometrische Fernidentifizierungssysteme, Strafverfolgung und Rechtspflege. Sie sollen strengen rechtlichen Vorgaben unterliegen: So soll es Pflicht werden, alle betreffenden Vorgänge zu protokollieren, alles ausführlich zu dokumentieren und eine angemessene menschliche Aufsicht gewährleistet sein.
- Geringes Risiko: Bei KI-Systemen mit geringem Risiko, etwa Chatbots, werden besondere Transparenzverpflichtungen gelten.
- Minimales Risiko: KI-gestützte Videospiele oder Spamfilter fallen in die Kategorie „minimales Risiko“, da hier nur ein geringes oder kein Risiko für Bürgerrechte oder die Sicherheit gegeben ist.
Hier geht es zum KI-Verordnungsentwurf der EU vom 21. April 2021: dn.rpv.media/3zk
