KI kurz erklärt: Ein europäischer Regulierungsrahmen für KI
Foto: CC0 1.0 | Pixabay User geralt | Ausschnitt und Farbe angepasst
Was genau ist künstliche Intelligenz, wo liegen ihre Potenziale, wie soll ihr Einsatz gefördert und ihre Anwendung reguliert werden? Diesen Fragen widmen wir uns in unserer dreiteiligen Serie „KI kurz erklärt“. Im dritten und damit letzten Teil unserer Serie werfen wir einen Blick auf die Vorhaben der EU. Existiert bereits ein Plan zur europaweiten Regulierung von KI?
Mit ihrer Digitalstrategie machte die EU-Kommission im Februar dieses Jahres einen ersten Aufschlag für die Regulierung der Datennutzung, Künstlicher Intelligenz (KI) sowie der Digitalwirtschaft. Ihr Ziel ist, die europäische Digitalwirtschaft voranzutreiben und Europa zu einem global führenden Standort für KI zu machen. Neben einer Datenstrategie und einem Bericht zu Fragen von Sicherheit und Haftung, beinhaltet die von der Kommission vorgelegte Digitalstrategie daher auch ein „Weißbuch zur Künstlichen Intelligenz“. Darin skizziert sie einen Rahmen für Förderung, Nutzung und Anwendung von KI.
Bausteine der KI-Politik der EU
Als „wichtigste Bausteine“ des Weißbuchs nennt die Kommission zwei Punkte: Zum einen müsse ein „Ökosystem für Exzellenz“ für Forschung, Investitionen und Innovationen und zum anderen ein „Ökosystem für Vertrauen“ geschaffen werden. Um das „Ökosystem für Exzellenz“ umzusetzen, stellt die Kommission sechs Maßnahmen vor. Sie gehen auf einen in der KI-Strategie vorgelegten Plan zurück. Bis 2027 sieht dieser die Umsetzung von 70 Maßnahmen vor. Dieser Plan soll nach Abschluss des Weißbuchprozesses neu gefasst werden (1). In den nächsten zehn Jahren will die Kommission außerdem mehr als 20 Milliarden Euro an KI-Investitionen pro Jahr mobilisieren. Forschungszentren und Netzwerke zu KI sollen in Europa besser gebündelt und koordiniert werden. Dafür will die Kommission „Exzellenz- und Testzentren“ einrichten. Diese „europäischen Testzentren von Weltrang“ sollen finanziell gefördert werden, unter anderem mit Mitteln aus dem Programm „Digitales Europa“ (2). Um den Fachkräftemangel im KI-Bereich entgegenzuwirken plant die Kommission den Aufbau von Universitäts- und Hochschulkooperationen (3). So sollen „weltweit führende KI-Masterstudiengänge“ angeboten werden können.
Ein weiterer Förderschwerpunkt liegt auf KMU und Start-ups. Neben den bisher mit 100 Millionen Euro ausgestattetem Fonds für KI und Blockchain plant die Kommission weitere Töpfe im Rahmen des Programms „InvestEU“ zu öffnen und nach einer Einigung über den Haushalt ab 2021 nochmals erheblich aufzustocken. Dadurch soll „mindestens ein digitales Innovationszentrum pro Mitgliedstaat auf KI hochspezialisiert“ sein (4). Private Unternehmen sollen zudem stärker durch öffentlich-private Partnerschaften einbezogen werden. Der Fokus liegt hier besonders auf KI, Daten und Robotik (5). Außerdem soll KI auch im öffentlichen Sektor stärker in Erscheinung treten, vor allem in den Bereichen Gesundheitsfürsorge und Verkehr. Gemeinsam in Dialogen mit dem „Gesundheitssektor, Verwaltungen ländlicher Gebiete und den Betreibern öffentlicher Dienste“ soll ein Aktionsplan ausgearbeitet werden (6). Darüber hinaus soll der Zugang zu Daten verbessert werden, was Teil der Datenstrategie ist. Zur Förderung von Hochleistungs- und Quantenrechnern, die auch KI-Infrastruktur miteinbezieht, sollen vier Milliarden Euro aus dem Programm „Digitales Europa“ fließen.
Vertrauen in KI will die Kommission durch den künftigen Rechtsrahmen schaffen. Dabei baut sie auf den im April 2019 von einer unabhängigen Expertengruppe für Künstliche Intelligenz vorgelegten Leitlinien auf. Sie enthalten sieben Kernanforderungen: Der Vorrang menschlichen Handelns und menschlicher Aufsicht; technische Robustheit und Sicherheit; Privatsphäre und Datenqualitätsmanagement; Transparenz, Vielfalt, Nichtdiskriminierung und Fairness; gesellschaftliches und ökologisches Wohlergehen sowie Rechenschaftspflicht.
Serie KI kurz erklärt
Teil 1: Künstliche neuronale Netze und Maschinelles Lernen
Teil 2: Die deutsche KI-Strategie
Bundesregierung will schärfere KI-Regulierung
Bis Juni dieses Jahres wurde das KI-Weißbuch öffentlich konsultiert und die Mitgliedsstaaten konnten Stellungnahmen einreichen. Der Bundesregierung geht das Konzept der EU-Kommission zur Regulierung von KI nicht weit genug. Zwar begrüßt sie in ihrer Stellungnahme, dass die Kommission ein „KI-Ökosystem für Vertrauen“ schaffen will, sie fordert aber zugleich eine schärfere Regulierung für den Umgang mit KI in Wirtschaft, Arbeitsleben und Gesellschaft. Es sei problematisch, wenn ausschließlich KI-Anwendungen mit einem „hohem Risiko“ besonderen Anforderungen entsprechen sollen. Ein Zwei-Stufen-System der Risikobewertung sei zu „undifferenziert“. Außerdem sei fraglich, ob die bestehenden EU-Vorschriften ausreichten, KI-Anwendungen ohne „hohes Risiko“ angemessen zu regulieren. Daher bittet die Bundesregierung die Kommission, gemeinsam mit den Mitgliedstaaten ein neues Klassifikationsschema zu entwickeln.
Dieses müsse mehrere Abstufungen „für relevante Risiken und Schäden unter Beachtung von Schadenshöhe und Schadenswahrscheinlichkeit vorsehen“, etwa für „Leben und Gesundheit, Vermögen, demokratische Prozesse, Umwelt, Klima, soziale, gesellschaftliche und wirtschaftliche Teilhabe“. Dass riskante Anwendung nur dann besonderen Anforderungen entsprechen müssen, wenn sie in sensiblen Sektoren eingesetzt werden, sei eine zu hohe Schwelle. Als KI-Anwendungen mit „hohem Risiko“ werden nach den Kriterien des Weißbuchs jene eingestuft, die in sensiblen Sektoren zum Einsatz kommen und deren Einsatz potenziell zu Diskriminierung, Verletzung oder Lebensgefahr führen könnte. Als sensible Bereiche werden beispielsweise das Gesundheitswesen sowie der Sicherheitssektor und die Justiz betrachtet.
Auf Basis der Stellungnahmen der Mitgliedstaaten und der Konsultationsteilnehmer will die EU-Kommission Legislativvorschläge zur Regulierung der KI in der Union entwickeln. Diesen will sie Anfang kommenden Jahres beschließen. Im Anschluss müssen sich das Europäische Parlament und der Rat der EU damit befassen.
Empfehlung der Redaktion
Artikel teilen
Autor:in
