KI verstehen: Was ist Künstliche Intelligenz und warum wird sie reguliert?
Künstliche Intelligenz ist seit einiger Zeit in aller Munde. Doch was steckt eigentlich hinter KI-Programmen? Wie funktionieren sie? Und warum ist es nötig sie zu regulieren, so wie es die EU mit dem AI-Act plant? Hier ein paar Antworten auf diese und weitere Fragen.
Seitdem Programme wie ChatGPT oder Midjourney für die breite Öffentlichkeit verfügbar sind, hat sich ein anhaltender Hype um KI-Tools entwickelt. Dadurch haben mittlerweile viele Menschen von KI-Programmen gehört, sie ausprobiert oder nutzen sie bereits bewusst regelmäßig für die verschiedensten Aufgaben. Die unbewusste Nutzung dürfte jedoch deutlich verbreiteter sein, da KI mittlerweile in vielen alltäglichen digitalen Anwendungen steckt. Künstliche Intelligenz fungiert so als ein wesentlicher Treiber der digitalen Transformation der Gesellschaft. Aber wie funktioniert sie eigentlich?
Der alte Traum von der intelligenten Maschine
Zunächst einmal muss man festhalten, dass die Menschheit schon seit langer Zeit die Idee verfolgt, eine Maschine zu entwickeln, die in der Lage ist, selbst zu denken, zu lernen und Entscheidungen zu treffen. Entscheidende Fortschritte auf dem Weg dahin wurden bereits im 20. Jahrhundert gemacht mit der Entwicklung von Rechenmaschinen, Computern, Algorithmen und maschinellem Lernen.
Die momentan große Aufmerksamkeit für das Thema haben jedoch Anwendungen mit generativer KI hervorgerufen, die in der Lage sind „neue“ Inhalte synthetisch zu erzeugen. Egal, ob es sich um Texte, Bilder, Video- oder Audioinhalte handelt: Auf diese Weise lassen sich heute in kurzer Zeit und ohne großen Aufwand überzeugende kreative Inhalte erstellen, für die es sonst talentierte Menschen bedarf.
Algorithmen und Datensätze als zentraler Bestandteil
Damit dies möglich ist, kombinieren KI-Anwendungen letztlich Erkenntnisse aus Mathematik und Informatik mit leistungsfähigen Datensätzen, um Lösungen für bestimmte Aufgaben und Probleme zu finden. Grundlegender Bestandteil von KI-Systemen wie auch von „normaler“ Software sind Algorithmen. Dabei handelt es sich um mathematische Schritt-für-Schritt-Anleitungen, die in Programmen beschrieben werden, damit Computer eine vorher klar definierte Aufgabe erledigen können. Dafür werden bestimmte Daten nach festgelegten Regeln und Abläufen verarbeitet, um zu einem Ergebnis zu kommen. Soweit, so bekannt als Prinzip jedes Computerprogramms.
Der große Unterschied zwischen „klassischer“ Software und KI-Anwendungen ist nun, das letztere selbstlernend sind. Das heißt, sie können sich weiter entwickeln, selbstständig neue Vorgehensweisen erlernen und gezielt Entscheidungen treffen, um die vorgegebene Aufgabe zu erfüllen.
Wie maschinelles Lernen abläuft
Hierbei wird der Ansatz des maschinellen Lernens genutzt, für den oft umfangreiche Trainingsdaten nötig sind. Denn bei diesem Ansatz lernen Computersysteme durch Beispiele, indem sie Muster und Zusammenhänge in den bereitgestellten Daten erkennen und dies in einem statistischen Modell festhalten.
Dieses Lernen bzw. Training von KI läuft so ab, dass zunächst die Rahmenbedingungen und das Ziel des Systems vom Hersteller festgelegt werden. Anschließend durchforstet das System mithilfe von Lernalgorithmen ausgewählte Datensätze, erkennt dabei relevante Muster und baut so ein statistisches Modell bzw. eine mathematische Gleichung mit relevanten Zusammenhängen und Entscheidungsregeln auf. Dieses Modell wird von den Entwickler:innen dann auf Ungenauigkeiten und Fehler getestet sowie angepasst, um möglichst korrekte Entscheidungen und Vorhersagen des Systems zu gewährleisten, wenn man ihm einen Befehl bzw. Prompt gibt.
Je nach Ausrichtung der KI-Systeme können diese dann statisch oder dynamisch eingesetzt werden: Während sich bei statischen Modellen die Datenbasis kaum verändert, bekommen dynamische Modelle neues „Futter“ und können daran weiterlernen – z.B. wenn sie Zugriff auf sich verändernde Informationen im Internet haben.
(K)eine Konkurrenz zum Menschen?
KI-Anwendungen imitieren in ihrem Aufgabenbereich somit die kognitiven Fähigkeiten des Menschen, indem sie Informationen aus Eingabedaten erkennen und sortieren, Entscheidungsvorgänge automatisieren und das eigene Handeln durch die Analyse früherer Aktionen und Ergebnisse anpassen.
Wichtig ist dabei: Künstliche Intelligenz bedeutet bisher nicht, das die Systeme ein eigenes Bewusstsein besitzen oder entwickeln. Zum Beispiel kann eine KI aufgrund ihres statistischen Modells zwar Fragen richtig beantworten, versteht aber weder die Bedeutung der Frage noch die der Antwort.
Momentan gibt es jedenfalls nur sogenannte „schwache“ KI, die für einen klar definierten Bereich konzipiert ist und spezifische Aufgaben lösen soll, z.B. die Autokorrektur bei Texten, Übersetzungsprogramme, Schachcomputer usw. Die Entwicklung einer starken KI, die selbständig und universell lernen kann, ist nach gängiger Einschätzung noch nicht in greifbarer Nähe.
Regulierung durch den AI-Act
Trotzdem gehen mit den aktuell verfügbaren KI-Systemen bereits weitergehende Fragen der Regulierung und ethisch korrekter Anwendung einher, da es durchaus einige Risiken und Gefahren gibt. Diese reichen von rechtlichen Bedenken beim Datenschutz und Urheberrecht von Trainingsdatensätzen, über Deepfakes und Desinformation, mögliche Fehlinterpretationen und intransparente Entscheidungsprozesse innerhalb der Anwendungen, bis zur Reproduktion von Vorurteilen und Diskriminierung bestimmter Gruppen sowie der Möglichkeit bewusster Manipulation von Systemen durch Cyberkriminelle.
All dies sind Gründe, warum die Europäische Union für die bisher unregulierte Nutzung von KI einige Leitplanken setzen möchte. Der dafür angedachte und lange diskutierte AI-Act steht mittlerweile kurz vor der Verabschiedung und dürfte voraussichtlich Mitte 2024 Gesetzeskraft erlangen. Um eine verantwortungsvolle Nutzung von Künstlicher Intelligenz zu gewährleisten, sind EU-weite Sicherheitsstandards und vor allem ein risikobasierter Ansatz zur Einordnung von KI-basierten Anwendungen vorgesehen.
KI-Verbot bei der Verletzung von Grundrechten
Je nach Risikokategorie sind dann unterschiedliche Maßnahmen für die KI-Anwendungen möglich, z.B. eine Kennzeichnungspflicht, Dokumentations- und Sorgfaltspflichten oder gar ein vollständiges Verbot. Letzteres ist etwa für Anwendungen mit „unannehmbaren Risiko“ denkbar, die Grundrechte in der EU verletzen, wie Social Scoring, biometrische Kategorisierung und Echtzeit-Identifizierung im öffentlich zugänglichen Raum oder die Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen. Bei bei Nichtbeachtung der Vorgaben des AI-Acts sind zudem hohe Bußgelder möglich.
Bis dies in der EU tatsächlich Wirkung entfaltet, muss der letzte Entwurf der Verordnung allerdings noch final verabschiedet werden und dann gilt eine zweijährige Übergangsfrist, in der das Gesetz von den EU-Mitgliedstaaten umgesetzt werden muss. In dieser Zeit kann und wird es auf dem hochdynamischen Feld der KI allerdings noch einiges an neuen Entwicklungen geben.
Aus der Reihe: KI im Bundestag: Maximilian Funke-Kaisers (FDP) KI-generierter Avatar im Interview
Mehr Informationen:
Interview-Serie: „KI im Bundestag“
KI und Sprache: Die Potenziale der neuen Technologie
Künstliche Intelligenz: Was KI für die Zukunft der Arbeit bedeutet
Empfehlung der Redaktion
Artikel teilen
Autor:in
