A18: Grüne Künstliche Intelligenz

Begründung

Selbstlernende und automatisiert auf Basis von Algorithmen Entscheidungen
treffende Computersysteme – oft bezeichnet als „Künstliche Intelligenz“ (KI) –
haben einen immer größeren Einfluss auf unser Leben:

Eine Ärztin berücksichtigt bei ihrer Diagnose Empfehlungen, die sie durch den
Einsatz von Deep Learning zur Auswertung von Bilddaten bei der
Computertomografie erhält. In einer Personalabteilung wird eine Vorauswahl aus
Bewerbungen sowie für Beförderungen durch eine Personalsoftware getroffen.

KI birgt das Potential, neues Wissen zu erschließen, und ermöglicht so
nachhaltigeres Handeln. Werden Algorithmen mit Bedacht eingesetzt, können sie
dazu beitragen, Diskriminierungen zu vermeiden und auf Vorurteilen beruhende
Denkmuster zu überwinden. Solche positiven Lösungen wollen wir aktiv fördern.

Ein unreflektiertes Vertrauen in KI-Systeme kann auch zu falschen Entscheidungen
führen sowie Diskriminierung und Gefahren bedeuten:

US-Gerichte verwendeten Software, die ausgehend von historischen Daten für
Inhaftierte mit schwarzer Hautfarbe eine rund doppelt so hohe
Wiederholungsgefahr prognostiziert, als für Inhaftierte mit weißer Hautfarbe.
Frauen wurde durch Computersysteme einer Bank zur automatisierten Prüfung der
Kreditwürdigkeit bei identischen Rahmenbedingungen ein niedrigeres
Kreditkartenlimit gewährt als Männern.

Es muss gesetzlich geregelt werden, dass algorithmische Entscheidungen
Vorurteile und Benachteiligungen nicht in die Zukunft tragen, systematisieren
und verstärken. Die Benachteiligungsverbote und geschützten Merkmale des
Allgemeinen Gleichbehandlungsgesetzes (AGG) und der EU-Grundrechtecharta (GrCh)
stellen hierbei nur das Minimum dar.

Diskriminierende Strukturen innerhalb eines KI-Systems haben ihren Ursprung
häufig in den Daten, mit welchen sie trainiert werden. Diese bilden die
Grundlage für selbstlernende Systeme. Daher müssen die verwendeten Datensätze
sorgfältig ausgewählt und bereinigt werden sowie hohe Anforderungen erfüllen.
Das betrifft nicht nur die Datenqualität, sondern auch ethische Gesichtspunkte.

Die Entwicklung und der Einsatz von Künstlicher Intelligenz müssen sich am Wohl
der Menschen orientieren. Ein grenzenloses Streben nach kommerziellem Erfolg
unter Verletzung von Privatsphäre und Minderheitenschutz ist nicht der
europäische Weg. Was technisch möglich ist, muss nicht zwingend sinnvoll sein.
Ein besonderes Augenmerk verdienen dabei Medienintermediäre, die durch die
Auswahl von Inhalten (Empfehlungssysteme, Mikrotargeting) großen Einfluss auf
politische Entwicklungen haben können.

Der Einsatz von KI-Systemen durch den Staat muss an besonders strikte
Voraussetzungen geknüpft sein, insbesondere hinsichtlich Transparenz,
unabhängiger Auditierung, Rechtschutz und dem Vorbehalt von menschlichen
Entscheidungen.

Die Regulierung sollte auf europäischer Ebene erfolgen, um europaweit
einheitliche Rahmenbedingungen zu erreichen. Bestimmte Aspekte lassen sich
bereits jetzt in Bayern umsetzen. Dazu zählen ein Verbot des Einsatzes von KI-
Systemen durch den Staat bei nicht zu rechtfertigendem Schädigungspotential, ein
massiver Ausbau von Forschung und Bildung sowie eine gezielte Förderung der
Wirtschaft bei der Entwicklung von KI, die dem Wohle von Mensch und Natur dient.

Forderungen