Künstliche Intelligenz: Der Deutsche Ethikrat über das Verhältnis von Mensch und Maschine
Der Einsatz von Künstlicher Intelligenz bietet heute und zukünftig viele Chancen, stellt unsere Gesellschaft aber auch vor neue Herausforderungen. Wie sich das auswirken könnte und welche Regeln wir für einen verantwortungsbewussten Umgang mit KI in Betracht ziehen sollten, dazu hat der Deutsche Ethikrat vor kurzem eine ausführliche Stellungnahme vorgelegt. Wir beleuchten die Inhalte und Reaktionen darauf.
In welchem Verhältnis werden Mensch und Maschine zueinander in der Zukunft stehen, speziell wenn weitere Tätigkeiten an Künstliche Intelligenzen delegiert werden? „Werden menschliche Autorschaft und Handlungsmöglichkeiten durch den Einsatz von KI erweitert oder vermindert?“ Diese Fragen versucht der Deutsche Ethikrat in seiner 287-seitigen Stellungnahme vom 20. März zu beantworten. Der Rat ist ein unabhängiger Sachverständigenrat mit 26 Mitgliedern aus Wissenschaft, Verbänden oder kirchlichen Einrichtungen, die von der Bundestagspräsidentin ernannt werden und sich auf gesetzlicher Grundlage mit ethischen, gesellschaftlichen, naturwissenschaftlichen, medizinischen und rechtlichen Fragen sowie den voraussichtlichen Folgen für Individuum und Gesellschaft auseinandersetzt.
Was steht in der KI-Stellungnahme?
Die aktuelle Stellungnahme des Ethikrats mit dem Titel „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ geht auf einen Auftrag des damaligen Bundestagspräsidenten Wolfgang Schäuble vom Oktober 2020 zurück und knüpft damit, nach eigener Aussage des Ethikrats, an Themen an, „die bereits in den Stellungnahmen zu Big Data und Gesundheit (2017) sowie Robotik und Pflege (2019) angeschnitten wurden“.
Die ethischen Fragen zum Verhältnis von Mensch und Maschine werden dabei in drei Teilen behandelt: Zunächst geht es um die technischen, philosophischen und methodischen Grundlagen des Themas (z.B. um Metadaten, Algorithmen oder maschinelles Lernen) bevor im zweiten Teil die ethischen Analysen anhand von vier ausgewählten Anwendungsfeldern exemplarisch konkretisiert werden:
- Für den medizinischen Bereich formuliert die Stellungnahme zentrale Empfehlungen, die vor allem auf die Forschung und Versorgung im Gesundheitssektor gerichtet sind. Unter anderem wird die „Vermeidung ärztlicher Kompetenzverluste“ und die „Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten“ Zudem stehen die Aspekte Aufklärung, Datenschutz und Schutz der Privatsphäre von Patient:innen im Fokus.
- Im Bildungssektor betont der Ethikrat zum einen die Chancen von KI-Anwendungen wie personalisiertes Lernen und die Entlastung von Lehrkräften durch standardisierte Lernprozesse. Zum anderen sei die Digitalisierung im Unterricht aber auch kein Selbstzweck und bedürfe der beständigen Evaluation der verwendeten Tools sowie einer höheren Nutzungskompetenz bei den Lehrkräften. Unter anderem wird die Einrichtung länderübergreifender Zentren für digitale Bildung gefordert.
- Im für die Demokratie besonders wichtigen Bereich der öffentlichen Kommunikation und Meinungsbildung problematisiert die Stellungnahme die möglichen negativen Auswirkungen von Algorithmen, die in den sozialen Medien zur Zunahme von Hass und Hetze führen können. Deshalb sei es besonders wichtig, klare Regeln für Online-Plattformen hinsichtlich der Auswahl und Moderation von Inhalten sowie für personalisierte Werbung und den Datenhandel zu schaffen. Diese Regeln sollten so gestaltet werden, „dass sie einerseits wirksam sind, andererseits aber die Freiheit der politischen Kommunikation nicht übermäßig beschränken.“ Zudem empfiehlt der Ethikrat den Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung als Alternative zu den dominierenden privatwirtschaftlichen Angeboten.
- Für den Bereich der öffentlichen Verwaltung verweist der Ethikrat auf den zunehmenden Einsatz von automatisierten Entscheidungssystemen und rät zur Einrichtung von adäquaten Instrumenten, um Diskriminierungen von Menschen durch KI-Systeme und das blinde Befolgen maschineller Empfehlungen zu verhindern. Zudem sollten die „Einsichts- und Einspruchsrechte“ der Bürger:innen weiterhin gewährleistet werden.
Der Mensch soll weiterhin im Mittelpunkt stehen
Im dritten Teil der Stellungnahme werden zehn relevante Querschnittsthemen identifiziert und jeweils übergreifende Empfehlungen an die Politik ausgesprochen. So beispielsweise zu den Themen Erweiterung und Verminderung menschlicher Handlungsmöglichkeiten, Wissenserzeugung oder Gefährdung des Individuums durch KI-Anwendungen. Es werden aber auch Aspekte wie Datensouveränität, Transparenz und Nachvollziehbarkeit oder die „Resilienz sozio-technischer Infrastrukturen“ angesprochen.
Der Ethikrat fordert hier klare und nach Einsatzbereichen getrennte Leitlinien und spricht eine grundsätzliche Warnung aus: KI-gestützte Technik solle nicht genutzt werden, um menschliche Entscheidungen zu ersetzen. So wird betont, dass Softwaresysteme nicht über Vernunft verfügen würden, nicht selbst handeln und daher keine Verantwortung übernehmen könnten. Die Beurteilung von KI müsse deshalb „immer kontext-, anwendungs- und personenspezifisch erfolgen“. Es dürfe deshalb keine Einschränkung menschlicher Kontrollmöglichkeiten gegenüber KI geben und die Interessen des Menschen sollten stets im Mittelpunkt stehen.
Dieser Tenor der Stellungnahme wurde bei der Vorstellung auch in den Äußerungen der beiden Ethikrats-Vorsitzenden deutlich:
„Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern.“ (Alena Buyx, Vorsitzende des Ethikrates & Medizinethikerin)
„KI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen.“ (Julian Nida-Rümelin, stellv. Vorsitzender des Ethikrats, Philosoph und ehemaliger Kulturstaatsminister SPD)
Wie fallen die Reaktionen aus?
Das umfangreiche Papier des Ethikrats und seine Stoßrichtung riefen durchaus unterschiedliche Reaktionen in Politik und Medien hervor. Die Vorsitzende des Digitalausschusses im Bundestag, Tabea Rößner (Grüne) begrüßte die Stellungnahme und sah eine Bestätigung vieler bereits vorhandener Ansätze der Digitalregulierung auf Bundes- und EU-Ebene. Sie versprach zudem, die Handlungsempfehlungen des Ethikrates – etwa zum Schutz von Grundrechten, Minderheiten und einer vielfältigen Gesellschaft – aufzunehmen und in die weitere politische Debatte einzubringen.
Ähnlich äußerte sich Bundesforschungsministerin Bettina Stark-Watzinger (FDP), die hervorhob, der Ethikrat verdeutliche „die vielfältigen Potenziale und Chancen“ von KI-Anwendungen, die unbedingt genutzt werden müssten bei gleichzeitiger Eindämmung der möglichen Risiken. Skeptischer gegenüber der Stellungnahme zeigte sich ihr Parteikollege Maximilian Funke-Kaiser, der digitalpolitische Sprecher der FDP- Bundestagsfraktion, der zuviel Bedneken wahrnimmt:
Und auch die Obfrau der CDU/CSU-Bundestagsfraktion im Digitalausschusses, Ronja Kemmer, lobte auf Twitter zwar die wichtigen Ratschläge des Ethikrats, wünschte sich aber, an einigen Stellen „die Debatte über KI noch chancenorientierter und mutiger zu führen“.
Etwas enttäuscht zeigte sich hingegen der KI-Bundesverband über die Stellungnahme: Der Ethikrat gehe zu wenig auf die positiven Auswirkungen von KI ein und ignoriere deren ökonomische Potenziale, zum Beispiel dem Fachkräftemangel entgegenzuwirken, so Verbandgeschäftsführer Daniel Abbou.
Kritische Journalisten
Deutlich kritischer fiel das Echo auf die Veröffentlichung bei einigen Journalisten aus. Insbesondere Sascha Lobo monierte in seiner Spiegel-Kolumne einen „allzu konservativen Blick“ des Ethikrats auf künstliche Intelligenz und die Fähigkeiten des Menschen. Sein Hauptkritikpunkt:
„Das Menschenbild, das der Diskussion zugrunde liegt, romantisiert an vielen Stellen den Menschen und seine menschliche Entscheidungsgewalt.“
Doch nicht nur die menschliche Fehlbarkeit und Unberechenbarkeit werde laut Lobo vom Ethikrat ausgeblendet, sondern auch Gefahrenkomplexe wie die mögliche Unkontrollierbarkeit von Open Source-KI oder Deep Fakes, die die öffentliche Meinung beeinflussen könnten.
Ähnlich kritisch äußerten sich zudem Jan-Martin Wiarda beim Tagesspiegel, der ein allgemeines Innovationsproblem unserer Gesellschaft konstatiert, und Arnd Janssen von der Rheinischen Post, für den die Stellungnahme keine neuen Erkenntnisse bereithalte, sondern bereits jetzt hinter aktuellen Entwicklungen zurückliege.
Großer Diskussionsbedarf besteht bei diesem für die Zukunft so wichtigen Thema also weiterhin. Und man darf gespannt sein, ob und wie die Politik die Empfehlungen des Ethikrates tatsächlich berücksichtigen wird.
Mehr Informationen:
Das Rennen der Textroboter: ChatGPT, Bard, Bing und die Konkurrenz aus Deutschland
BASECAMP FishBowl: KI ist nicht Zukunft, sondern ist heute
Künstliche Intelligenz: Wie steht es um den AI-Act der EU?
Empfehlung der Redaktion
Artikel teilen
Autor:in
