Gastbeitrag: Warum Ethik und KI zusammen gedacht werden müssen und was das für Unternehmen bedeutet, erklärt Melanie Beck.

Foto: privat Die Autorin Melanie Beck ist Machine Learning Research Engineer bei Cloudera Dank visionärer Unternehmen hält künstliche Intelligenz (KI) im Alltag Einzug. Dabei hebt eine Umfrage von FICO hervor, dass die meisten Unternehmen, die mit der von ihnen genutzten KI-Technologie potenziell einhergehenden Risiken noch nicht vorhersehen oder zumindest ganzheitlich verstehen können. Dadurch eröffnen sich vielfältige Möglichkeiten für Fehlanwendung, Missbrauch und mangelhaftes Design, was wiederum negative, unbeabsichtigte Folgen haben kann.

Das Risiko der KI

Um die Risiken des KI-Einsatzes einschätzen zu können, müssen die potenziellen durch KI verursachten Schäden, wie beispielsweise Voreingenommenheit und Diskriminierung, verstanden werden. Denn die Erkenntnisse von KI-Systemen basieren auf Daten, welche häufig gesellschaftliche Dynamiken, wie Marginalisierung, Ungleichheit und Diskriminierung widerspiegeln. Diese Muster können reproduziert, verstärkt oder sogar vergrößert werden. Dabei können KI-Systeme die menschliche Autonomie sowie Grundrechte unterdrücken. Ohne Regress ist es jedoch schwierig bis unmöglich, gegen diese Verstöße vorzugehen. Damit nicht genug, so können KI-Modelle die Privatsphäre verletzen, indem sie komplexe Zusammenhänge erlernen und dadurch Rückschlüsse auf geschützte Merkmale wie Alter oder Geschlecht ziehen. Zudem können aufgrund mangelhafter Design- und Produktionspraktiken unsichere Ergebnisse entstehen, die nicht präzise oder reproduzierbar sind. Dies kann anschließend wiederum zu unzuverlässigen Entscheidungen führen.

Die mit dem KI-System verbundenen Risiken können die Verbraucher, Stakeholder, Mitarbeiter und sogar ganze Teile der Bevölkerung betreffen. Dabei wird eine ganzheitliche rechtliche Infrastruktur für KI noch entwickelt, doch viele der aufgeführten Aspekte sind bereits geregelt: Die Datenschutz-Grundverordnung (DSGVO) sowie die Charta der Grundrechte der Europäischen Union gelten hierbei als Musterbeispiele. Setzt ein Unternehmen also ein mangelhaft konzipiertes KI-System ein, kann es nicht nur Verbrauchern und Teilen der Bevölkerung potenziellen Schaden zufügen, sondern muss für dieses Fehlverhalten auch hohe rechtliche und finanzielle Strafen in Kauf nehmen. Zusätzlich können KI-Missbrauch oder -Versäumnisse auch das Vertrauen der Verbraucher schwächen und das Marken-Image beeinträchtigen.

Ethische KI umsetzen

Allgemein gilt, ist ein KI-System für den menschlichen Konsum oder die menschliche Interaktion konzipiert oder stützt sich auf von Menschen generierten oder über Menschen gesammelte Daten, dann ist eine ethische Analyse wahrscheinlich angemessen. Da das Ziel eines KI-Projektes nicht immer zu Beginn klar ersichtlich ist, müssen Unternehmen einen „grundlegenden Ansatz der Ethik“ verankern. So können sie die ethischen Auswirkungen jeder KI-Initiative vom Konzept bis zur Umsetzung umfassend bewerten.

• Deshalb legt die von der Europäischen Kommission eingesetzte Expertengruppe für künstliche Intelligenz in ihrem Bericht „Ethics Guidelines for Trustworthy AI“ Schlüsselanforderungen für Unternehmen fest:
• Sie sollten gewährleisten, dass das KI-System die Grundrechte des Menschen berücksichtigt und die menschliche Handlungsfähigkeit bestehen bleibt.
• Die Sicherheit, Genauigkeit und Zuverlässigkeit des KI-Systems müssen soweit möglich garantiert werden. Dazu muss das KI-System gegen Cyberangriffe geschützt werden und es sollte verlässliche und reproduzierbare Vorhersagen treffen können.
• Unternehmen sollten sicherstellen, dass das KI-System die Regelungen zu Privatsphäre und Datenschutz während des gesamten Lebenszyklus einhält.
• Sie müssen alle Daten auf Voreingenommenheit, Ungenauigkeiten und Fehler hin überprüfen.
• Um die Transparenz des KI-Systems sicherzustellen, müssen Unternehmen die Rückverfolgbarkeit von der Datenerfassung und -kennzeichnung bis hin zu den eingesetzten Algorithmen gewährleisten.
• Erkennbare und diskriminierende Voreingenommenheit in der Datenerhebungsphase sollten behoben werden. Jedoch ist eine kontinuierliche Überwachung und Kontrolle erforderlich, um ungerechte Ergebnisse zu vermeiden.
• Unternehmen müssen ihre KI-Systeme auf globale Auswirkungen hin überprüfen. Hierbei gilt es, den Ressourcen- und Energieverbrauch beim Modelltraining auszuwerten und auf umweltfreundlichere Alternativen zu achten sowie das Wohlergehen von bestimmten Bevölkerungsgruppen zu berücksichtigen.
• Sie sollten Kontrollmechanismen einführen, um die verantwortungsvolle Implementierung von KI-Systemen sowie deren kontinuierliche Überprüfung zu garantieren.

Trotz allen Fortschritts steht der Einsatz von KI noch in seinen Anfängen. Da diese Systeme das Leben der Menschen weiterhin verbessern und Unternehmen Vorteile im Wettbewerb verschaffen können, werden neue KI-Anwendungen zunehmen. Berücksichtigen Unternehmen bei der Gestaltung und während des Einsatzes von KI ethische Gesichtspunkte, so können diese das Potenzial der Technologie ausschöpfen und zugleich einhergehende Risiken eindämmen.