Abschlussbericht der Enquete-Kommission: Mit KI Pandemien bekämpfen
Foto: CC0 1.0, Pixabay / geralt / Ausschnitt bearbeitet
Nach zwei Jahren Arbeit hat die Enquete-Kommission „Künstliche Intelligenz“ ihren finalen Bericht vorgelegt. Darin enthalten sind auch Empfehlungen für den KI-Einsatz zur Pandemiebekämpfung und zur Nachhaltigkeit der Technologie. Trotz großer Einigkeit bezüglich der Bedeutung von KI machen zahlreiche Sondervoten deutlich, dass nicht alle Bundestagsfraktionen bei den Ergebnissen übereinstimmen.
Die Enquete-Kommission „Künstliche Intelligenz“ (KI) des Bundestages hat am Donnerstag ihren Abschlussbericht an Bundestagspräsident Wolfgang Schäuble (CDU) übergeben. Auf 794 Seiten fassen die sechs Projektgruppen zu KI und Arbeit, Wirtschaft, Staat, Gesundheit, Mobilität und Medien ihre Handlungsempfehlungen zusammen. Zu den einzelnen Bereichen lagen bereits Kurzzusammenfassungen vor. Über einen Zeitraum von rund zwei Jahren haben sich 19 Abgeordnete aller im Bundestag vertretenen Fraktionen sowie 19 Experten aus Wirtschaft, Wissenschaft und Gesellschaft mit den Auswirkungen von KI beschäftigt. Neben den Berichten der Projektgruppen sind weitere Kapitel des Abschlussberichts den Querschnittsthemen Daten, Recht und Nachhaltigkeit sowie der Definition von KI gewidmet. Außerdem ist die Enquete auf die aktuellen Entwicklungen der Corona-Pandemie eingegangen. So wurden Anwendungsbeispiele von KI zur Eindämmung und Beherrschung von Pandemien in den Bericht aufgenommen und Entwicklungen in der KI benannt, die nötig sind, um besser auf künftige Infektionswellen vorbereitet zu sein.
Obwohl Mario Brandenburg, Obmann der FDP-Fraktion in der Kommission, bei der Ergebnispräsentation Ende September von einem „breiten Konsens“ sprach, zeigen die zahlreichen Sondervoten im Anhang des Berichts, dass nicht überall einer gefunden wurde. Ronja Kemmer, Obfrau der Unionsfraktion, bestätigte zwar, dass es „einen breiten Konsens über die herausragende Bedeutung der KI-Technologie für die Zukunftsfähigkeit unserer Wirtschaft und Verwaltung“ gebe. „Dennoch tun sich einige noch schwer damit, dies anzuerkennen, namentlich die Fraktionen Die Linke und die AfD“, sagte sie. Damit seien sie „auf dem Holzweg“, so Kemmer weiter, „denn sich der KI als Technologie zu verweigern, ist keine ernstzunehmende Option“. Bei der finalen Abstimmung über den Bericht enthielt sich die Linksfraktion. Obfrau Petra Sitte sagte, die Balance zwischen Gemeinwohlorientierung und ökonomischen Interessen, die Begrenzung der Machtkonzentration in der Datenökonomie, Klimaschutz und verbindliche ethische Standards seien ihr zu kurz gekommen. „In all diesen Punkten ist die Mehrheit der Enquete-Kommission meist auf halbem Wege stehen geblieben bzw. ist den standortpolitischen Interessen Deutschlands der Vorzug gegeben worden“, kritisierte sie.
KI und die COVID-19-Pandemie
Modelle und Vorhersagen können in einer Pandemie helfen, die Ausbreitung eines Virus zu ermitteln und entsprechende Maßnahmen zur Eindämmung zu ergreifen. Es sei zu erwarten, „dass KI-gestützte Systeme in der Lage sein werden, ihren Vorsprung bei Vorhersagen durch noch größere Datensätze und fortschrittlichere Technologie auszubauen“, heißt es im Bericht.
Daten zu Flugtickets sind ein Beispiel für einen solchen Einsatz von KI. Sie verraten, wohin Einwohner in den nächsten Tagen reisen werden. Dadurch wurde es möglich, eine „korrekte Vorhersage über die Verbreitung des Corona-Virus in den ersten Tagen nach dem Auftreten zu treffen“. Nach der Datenauswertung durch das Programm hätten Epidemiologen die Schlussfolgerungen auf ihre Wissenschaftlichkeit geprüft und erst danach Warnungen verschickt. Ähnlich sei bereits bei SARS, Schweinegrippe oder Zika vorgegangen worden.
Ausgehend davon hat die Enquete mehrere Wissenschaftler um Stellungnahmen gebeten und einen Überblick über die Potenziale von KI für die Eindämmung von Pandemien erstellt. Neben Vorhersagen werden hier Visualisierungen, Ansteckungsverfolgung, Viruserkennung, molekularbiologische Untersuchungen und Genomsequenzierung, Krankenhausmanagement, intelligente Robotik im klinischen Bereich und in der Pflege sowie automatisierte mobile Teststationen für die breite Datenakquise genannt. Eine konkrete Anwendung ist das Tracking von Infizierten durch Kontaktverfolgung. Es können zum Beispiel Orte, Konstellationen und Verhaltensweisen festgestellt werden, die ein hohes Risikopotenzial für Übertragungen haben. Außerdem kann auf Basis historischer Daten zu Epidemien „gelernt“ werden, wie sich das Virus global ausbreitet. „Dadurch können weitere Wellen vorhergesagt werden oder kann die Bedarfsplanung von Intensivbetten und Krankenhauspersonal besser erfolgen“, schreibt die Enquete.
KI könne auch dabei helfen, Medikamente und Impfstoffe vor einem Test am Menschen zu prüfen – etwa auf toxische Reaktionen – und so die Zulassung beschleunigen und Probanden schützen. Das Robert Koch-Institut nutzt nach Angaben der Enquete-Kommission derzeit noch computerbasierte Simulationsverfahren für seine Kurzzeitprognosen, spezifische Algorithmen zur Früherkennung würden aber derzeit entwickelt. Im deutschen Netzwerk für Bioinformatik-Infrastruktur werde aktiv an Anwendungen für die COVID-19-Bekämpfung geforscht und etwa eine Software zur Risiko-Abschätzung anhand verschiedenster klinischer, Labor- und Forschungsdaten entwickelt.
EU-weiten Gesundheitsdatenraum voranbringen
Die wichtigste Grundlage für einen erfolgreichen KI-Einsatz zur Bekämpfung der Pandemie ist der Kommission zufolge die datenschutzkonforme Verfügbarkeit von Daten aus verschiedenen Sektoren. Dazu müssten Konzepte entwickelt werden, wie etwa Datentreuhänder oder Prozesse der Anonymisierung und De-Anonymisierung. Außerdem sei eine ausreichende digitale Infrastruktur und KI-Expertise im Gesundheitssektor notwendig. Deutschland sollte sich während der EU-Ratspräsidentschaft für die Schaffung eines europäischen Gesundheitsdatenraums einsetzen, damit Daten sicher, schnell und datenschutzkonform ausgetauscht werden können. Darüber hinaus weist die Kommission auf die Rolle der Medien als Gefahr für Desinformation in einer Pandemie hin. „Es muss geregelt sein, unter welchen Umständen und mit welchen Kontrollmechanismen Betreiber von Intermediären Einfluss auf die Sortierung und Anzeige von Inhalten nehmen dürfen.“ Die Projektgruppe „KI und Medien“ hat dazu Empfehlungen erarbeitet, beispielsweise wie mit algorithmisch getriebener Verbreitung von Desinformation umgegangen werden sollte.
Ronja Kemmer, die für die CDU/CSU-Fraktion in der Projektgruppe Gesundheit mitarbeitete, zeigte sich bei einer Veranstaltung der Konrad-Adenauer-Stiftung zufrieden mit der Zusammenarbeit. Die Gruppe habe versucht, Themen der Pandemie tagesaktuell aufzunehmen und das Kapitel dazu „kurz und prägnant“ zu machen. Susanne Dehmel, Mitglied der Geschäftsleitung des Bitkom und Sachverständige in der Kommission, bestätigte dies. „Im Gesundheitsbereich waren allen die enormen Chancen durch KI klar“, sagte Dehmel, deswegen habe man viele Felder konkreter bearbeiten können.
Petra Sitte, für die Linksfraktion in der Projektgruppe Gesundheit, betonte gegenüber dem Tagesspiegel Politikmonitoring auch die Erfolge der Gruppe. „Im Bereich Gesundheit ist es gut, dass wir einen relativ klaren Konsens erarbeitet haben, was die Datenfreigabe zu Forschungszwecken angeht, und zwar in Form einer abgestuften, souveränen Entscheidung, die die Kontrolle bei den Betroffenen belässt.“ Im Pflegebereich sei es ihr wichtig gewesen, nicht über den Ersatz, sondern die Ergänzung menschlicher Tätigkeit zu reden. „Das sind klare Leitlinien, von denen ich mir wünschen würde, dass sie bei zukünftigen Entscheidungen maßgeblich sind“, sagte Sitte.
Intelligente Systeme, Daten und Recht
Die Enquete definiert KI-Systeme als „vom Menschen konzipierte, aus Hardware- und/oder Softwarekomponenten bestehende intelligente Systeme, die zum Ziel haben, komplexe Probleme und Aufgaben in Interaktion mit der und für die digitale oder physische Welt zu lösen“. Um dies zu tun, benötigen sie Daten, die sie analysieren können. „Interagiert die KI durch einen technischen Körper physisch mit ihrer Umwelt, z. B. als Roboter, spricht man von verkörperter KI (‚embodied AI‘).“ Grundsätzlich unterscheidet die Kommission zwei Arten von KI, die regelbasierte KI und die lernende KI. Während erstere vollständig von Menschen gesteuert wird (Beispiel: Wissensdatenbanken), entwickelt sich zweitere selbst weiter. Ergebnisse solcher Systeme sind dann durch den Menschen „besonders schwer nachvollziehbar“.
Da KI eng mit Daten verknüpft ist, müsse ein deutscher beziehungsweise europäischer Ansatz zur Entwicklung und Anwendung von KI auch Antworten auf Vielfalt, Verfügbarkeit und Nutzung von Daten sowie Datensicherheit und Datenschutz geben, fordert die Enquete. Sie sieht vor allem Handlungsbedarf bei der Verfügbarkeit von Daten. In der Wissenschaft fehlten beispielsweise oft die Ressourcen, in Forschungsprojekten erhobene Daten breiter zugänglich zu machen. Außerdem sei der Austausch von Daten oder ihre gemeinsame Nutzung zwischen Unternehmen mit Rechtsunsicherheit verbunden. Neben der Förderung des freiwilligen Datenteilens seien Datenzugangsrechte wichtig. Datenstandards müssten verbessert werden, wodurch das Zusammenführen von Daten aus unterschiedlichen Quellen erleichtert würde.
Damit auch die Infrastruktur für Daten vorhanden ist, unterstützt die Enquete die Idee einer gemeinsamen europäischen Cloud, wie GAIA-X. Die Abhängigkeit von außerhalb der EU ansässigen Anbietern lasse sich durch eigene Kompetenzen reduzieren. „Hier verfügt die Verwaltung in der Beschaffung über einen wichtigen Hebel“, regt die Enquete an. Weitere wichtige Punkten sind der Datenschutz und die Datensicherheit. KI-Systeme könnten eingesetzt werden, um personenbezogene Daten zu anonymisieren. „Rechtsunsicherheiten bei Anonymisierungsprozessen sollten reduziert werden, indem hierfür eine ausdrückliche Rechtsgrundlage geschaffen wird“, empfiehlt die Kommission. Es müssten auch Maßnahmen getroffen werden, um Diskriminierung durch KI zu erkennen und zu vermeiden.
Differenzierte statt risikobasierte Regulierung
Anders als die Datenethikkommission der Bundesregierung empfiehlt die Enquete keine risikobasierte Einstufung von KI-Systemen, sie will stattdessen den konkreten Anwendungsfall stärker in den Blick nehmen. „KI-Systeme sollten nicht unter Pauschalverdacht gestellt werden; durch Beschränkung auf Vorgaben für Hochrisikoanwendungen sollte die Verhältnismäßigkeit gewahrt bleiben“, heißt es im Enquete-Bericht. Dafür schlägt die Kommission einen „differenzierenden Ansatz“ vor, „der mögliche Anforderungen an die Transparenz und Nachvollziehbarkeit der Systeme mit der Kritikalität des Systems im jeweiligen Anwendungsfall begründet“.
Rechtlich spricht sich die Kommission dagegen aus, autonom agierenden Systemen Verantwortung zuzuschreiben. Das wird unter dem Stichwort Elektronische Person („E-Person“) diskutiert. Dieses Konzept widerspreche „der grundsätzlichen Überzeugung der Enquete-Kommission, KI-Technologien als ein Werkzeug in der Verantwortung des Menschen anzusehen“. Beim Haftungsrecht sieht die Kommission keine „dringende Notwendigkeit, neue Haftungsbestände speziell für KI-Systeme zu schaffen“. Bestehende Haftungssysteme könnten auch durch KI-Systeme verursachte Schäden ausgleichen. Rechtsunsicherheiten bei der Anwendbarkeit auf KI-Systeme sollten im Rahmen der Überprüfung der Produkthaftungsrichtlinie auch mit Blick auf andere technologische Neuerungen beseitigt werden.
KI und Nachhaltigkeit
Die Kommission weist außerdem darauf hin, dass der Einsatz von KI-Lösungen nicht per se wirtschaftlich, ökologisch und sozial nachhaltig ist. „Hier müssen klare Rahmenbedingungen dafür sorgen, dass nachhaltige Innovationen gefördert werden“, schreibt sie. Dazu könnte etwa eine Marke „Sustainable AI“ beitragen, die KI-Anwendungen bei der Weiterentwicklung der KI-Strategie zentral berücksichtigt, die hinsichtlich des Energie- und Ressourceneinsatzes und des Effizienzpotenzials im Einsatz optimiert sind. Die Enquete empfiehlt daneben mehr Forschung „zur systematischen Analyse des CO2-Minderungspotenzials durch KI-Anwendungen in den Schlüsselsektoren Energie, Industrie, Landwirtschaft, Wohnen und Mobilität“. Auch die Datenbasis zum Energieverbrauch sollte unterstützt werden, damit IT nachhaltiger wird.
Tagesspiegel Politikmonitoring
Der vorstehende Artikel erscheint im Rahmen einer Kooperation mit dem Tagesspiegel Politikmonitoring auf der Website des BASECAMP.
Mehr Informationen:
Digitale Identitäten: Mehr Sicherheit für das Digitale-Ich
Cybersicherheit: Neues Nachschlagewerk für digitale Aufklärung
Markus Rolle beim Bayerischen Finanzgipfel: „Nachhaltigkeit ist Teil unserer DNA“
Empfehlung der Redaktion
Artikel teilen
Autor:in
