Digitale Ethik: „Menschen und Maschinen müssen gute Entscheidungen treffen“
Fotos: BVDW
„Wir erleben eine Renaissance der Philosophie unter anderen Vorzeichen“, so leitete Vizepräsident Achim Himmelreich den Themenabend Digitale Ethik des Bundesverbands Digitale Wirtschaft ein. Und er behielt recht: Zwei Stunden diskutierten die Panelisten hitzig, kontrovers aber immer am konkreten Fall, wie wir mit dem Einfluss von Daten und Algorithmen umgehen müssen. Im Mittelpunkt stand das sogenannte Automated Decision Making, die automatisierte Entscheidungsfindung durch Maschinen.
Wenn eine Software die Daten eines Patienten analysiert und dem Arzt eine Diagnose oder sogar einen Behandlungsplan vorschlägt, greift Automated Decision Making. Viele solcher Beispiele diskutierten die Podiumsgäste in einer spannenden Debatte. Dabei brachten die Panelisten Matthias Spielkamp (Gründer AlgorithmWatch), Dr. Andrea Timmesfeld (Public Affairs-Chefin Generali Deutschland), Saskia Esken (MdB und für die SPD im Ausschuss Digitale Agenda) sowie Dr. Pablo Mentzinis (Director Government Relations SAP) ihre jeweilige Perspektive ein.
„Algorithmen sind neutral. Ihr Einsatz ist es nicht.“
In seinem Impulsvortrag gab Matthias Spielkamp einen Überblick, wie Algorithmen derzeit eingesetzt werden. Amazon beispielsweise setzt auf sie, um Kunden Empfehlungen auszusprechen. Für den Nutzer ist das erstmal gut. Gleichzeitig straft jedoch der Preisalgorithmus im Hintergrund Händler ab und zeigt dem Kunden nicht immer den besten Deal an. Allein dieses kleine Beispiel aus dem digitalen Alltag macht deutlich, dass der Einsatz von Daten immer zwei Seiten hat.
Beim Predictive Policing sind die Konsequenzen größer, denn es betrifft hoheitliche Aufgaben des Staates, die mit Hilfe von Algorithmen ausgeführt werden. Auch hier kann man nicht von guten oder bösen Algorithmen sprechen. Mit Verweis auf eine Studie von ProPublica, einer mit dem Pulitzer-Preis ausgezeichneten Non-Profit Organisationen für investigativen Journalismus, erklärte Matthias Spielkamp die Nutzung von datenbasierten, automatisierten Entscheidungsprozessen bei der Einsatzplanung von Sicherheitskräften.
Algorithmen analysieren, in welchen Stadtteilen zu welchen Zeiten besonders häufig kriminelle Delikte vorkommen könnten und schlägt die Mannschaftsverteilung vor. Vielleicht geht so die Kriminalität zurück. Vielleicht bekommen Stadtteile durch die hohe Polizeipräsenz aber auch einen schlechteren Ruf, unabhängig, ob tatsächlich eine Straftat begangen wurde oder nicht.
Die Beispiele zeigen anschaulich das Dilemma: Algorithmen selbst sind weder gut noch schlecht, aber sie haben Konsequenzen für den einzelnen Menschen. Deshalb fordert AlgorithmWatch in seinem Manifest größere Transparenz. „Die Entscheidung darüber, wo und wie Algorithmen eingesetzt werden, muss transparent für diejenigen sein, die es betrifft„, so Spielkamp.
Führen Algorithmen zum „Einheitsbrei“?
Hier setzte eine hitzige Diskussion an. Am Beispiel der Versicherungswirtschaft sprach sich Dr. Andrea Timmesfeld, Public Affairs-Chefin von Generali, dafür aus, dass Algorithmen nicht bestrafen dürfen, sondern Anreize setzen müssen. Am Ende muss es um eine Verbesserung für die Gesellschaft gehen, wie es auch die Prämienprogramme der Versicherungen vorleben.
Aus dem Publikum wurde die Frage gestellt, ob Belohnung und Bestrafung nicht am Ende das Gleiche wären, denn beides führe zu Benachteiligung einer Gruppe. Saskia Esken sieht das Belohnungsprinzip ebenfalls kritisch. Ein System entscheidet für die gesamte Bevölkerung, was gesund ist und was nicht. Jedoch wird es immer Menschen geben, auf die bestimmte Vorgaben nicht passen. Individuelle Voraussetzungen haben keinen Platz in Entscheidungen von Algorithmen, so die Informatikerin. „Wenn wir nicht aufpassen, führen Algorithmen zu einem Verlust der Vielfalt„, fasste Moderator Himmelreich schließlich zusammen.
Mensch und Maschine: Die Mischung macht’s
Bei allen Fallbeispielen wurde klar: Eine Regulierung zum Schutz der Verbraucher ist notwendig. Aber, „für jeden Case braucht es eine konkrete Entscheidung. Hier ist die aktuelle, allgemeine Diskussion falsch„, sprach sich Spielkamp für eine Herangehensweise aus, die Algorithmen nicht allgemein abstraft, sondern den konkreten Einsatz betrachtet. Dr. Pablo Mentzinis wies in diesem Zusammenhang auf eine überkritische Einstellung der Nutzer hin und forderte eine stärkere Auseinandersetzung mit digitalen Lösungen.
Die derzeitige Herausforderung ist, dass man die Interessen der Unternehmen, die Daten einsetzen, oft nicht kennt, mahnte Saskia Esken an. Hier müssen Unternehmen transparent werden. Letztendlich muss der Algorithmus im Sinne desjenigen eingesetzt werden, den es betrifft. Dr. Pablo Mentzinis, Director Government Relations von SAP, fasste das Verhältnis zwischen künstlicher und menschlicher Intelligenz treffend zusammen: „Das Ziel muss es sein, dass sowohl Menschen als auch Maschinen gute Entscheidungen treffen. Und dafür müssen wir beides kombinieren.“
Mehr Informationen:
Website des Bundesverband Digitale Wirtschaft (BVDW) e.V.: www.bvdw.org
Mehr über die Veranstaltung und die Teilnehmer: http://www.bvdw.org/events/bvdw-eventformate/themenabende-digitale-wirtschaft/27062017.html“ target=“_blank“>Themenabend Digitale Wirtschaft
Empfehlung der Redaktion
Artikel teilen
Autor:in
