Alle 14 Tage aktuelle News aus der IT-Szene   >   
MP2 eröffnet „Innovation Lounge“ 27. 01. 2022
Kürzlich weihte das IT-Unternehmen MP2 IT-Solutions im Rahmen seines Neujahrsempfangs seine neue „Innovation Lounge“ ein.
koenig.solutions expandiert nach Wien 26. 01. 2022
Consulting-Unternehmen bietet SAP-Lösungen für Energieversorger.
TGM ist Partnerschule von WOMENinICT im VÖSI 25. 01. 2022
Partnerschaft will Mädchen und Frauen für IT begeistern.
Investition in innovative Lern-App 24. 01. 2022
Fabasoft steigt bei Microlearning-Anbieter KnowledgeFox ein.
R&S und Jet ERP: Zwei heimische ERP-Anbieter unter einem Dach 21. 01. 2022
R&S-Geschäftsführer Markus Neumayr wird Managing Director von Jet ERP – enge Zusammenarbeit der beiden Unternehmen geplant.
Trend Micro und Ingram Micro machen in Österreich gemeinsame Sache 21. 01. 2022
Der japanischer IT-Sicherheitsanbieter erweitert sein Distributorennetzwerk in Österreich.
Re-Branding und Re-Positionierung 20. 01. 2022
Tietoevry erneuert Marke und geht mit sechs spezialisierten Unternehmen an den Start.
Die Patienten-Journey abbilden 19. 01. 2022
Accenture-Gesundheitsstudie: Patienten wünschen sich digitale Gesundheitsleistungen.
Paessler erweitert PRTG Hosted Monitor 18. 01. 2022
Neue Funktionen für Monitoring-as-a-Service.
Capgemini gründet Quantum Lab 17. 01. 2022
Kunden erhalten über das neue Entwicklungslabor Zugang zu den Quantencomputersystemen und Services von IBM.
Boll gibt Partnerschaft mit Deep Instinct bekannt 14. 01. 2022
Cybersecurity-Framework stoppt Ransomware und andere Malware mit Deep-Learning-Technologie.
Embedded Analytics 13. 01. 2022
Studie der Enterprise Strategy Group zeigt, wie Unternehmen der Fertigungsbranche den maximalen Nutzen aus ihren Daten ziehen.
Lenovo startet neues Channel Programm 12. 01. 2022
Mit Lenovo 360 erhalten Partner besseren Zugang zu End-to-End-Lösungen und -Services.
Cyber-Attacken nahmen im Jahr 2021 in Österreich um 117 Prozent zu 11. 01. 2022
Das stellten die Sicherheitsforscher von Check Point in ihrem Jahresvergleich zu 2020 fest. Auch die deutschen Nachbarn wurden heftig angegriffen.
Technogroup kooperiert mit ITK-Distributor Ingram Micro 10. 01. 2022
Der Maintenance-Dienstleister bietet RZ-Services nun auch über die Kanäle von Ingram Micro an.
Österreich bei Open-Data-Initiativen führend 21. 12. 2021
Neue Studie unterstreicht die positive gesellschaftliche Wirkung offener Daten. Österreich liegt als „Fast-Tracker“ im Spitzenfeld.
Atos zeigt „Outcome-driven AI Platform“ 20. 12. 2021
Neue KI-/ML-Plattform ermöglicht datengetriebene Optimierung von Geschäftsprozessen.
Konzepte für New Work sind gefragt 16. 12. 2021
Neues innovaphone Whitepaper: „So funktioniert hybrides Arbeiten“.
weiter
Cloudera

Ethik in der KI

Gastbeitrag: Warum Ethik und KI zusammen gedacht werden müssen und was das für Unternehmen bedeutet, erklärt Melanie Beck.

Foto: privat Die Autorin Melanie Beck ist Machine Learning Research Engineer bei Cloudera Dank visionärer Unternehmen hält künstliche Intelligenz (KI) im Alltag Einzug. Dabei hebt eine Umfrage von FICO hervor, dass die meisten Unternehmen, die mit der von ihnen genutzten KI-Technologie potenziell einhergehenden Risiken noch nicht vorhersehen oder zumindest ganzheitlich verstehen können. Dadurch eröffnen sich vielfältige Möglichkeiten für Fehlanwendung, Missbrauch und mangelhaftes Design, was wiederum negative, unbeabsichtigte Folgen haben kann.

Das Risiko der KI

Um die Risiken des KI-Einsatzes einschätzen zu können, müssen die potenziellen durch KI verursachten Schäden, wie beispielsweise Voreingenommenheit und Diskriminierung, verstanden werden. Denn die Erkenntnisse von KI-Systemen basieren auf Daten, welche häufig gesellschaftliche Dynamiken, wie Marginalisierung, Ungleichheit und Diskriminierung widerspiegeln. Diese Muster können reproduziert, verstärkt oder sogar vergrößert werden. Dabei können KI-Systeme die menschliche Autonomie sowie Grundrechte unterdrücken. Ohne Regress ist es jedoch schwierig bis unmöglich, gegen diese Verstöße vorzugehen. Damit nicht genug, so können KI-Modelle die Privatsphäre verletzen, indem sie komplexe Zusammenhänge erlernen und dadurch Rückschlüsse auf geschützte Merkmale wie Alter oder Geschlecht ziehen. Zudem können aufgrund mangelhafter Design- und Produktionspraktiken unsichere Ergebnisse entstehen, die nicht präzise oder reproduzierbar sind. Dies kann anschließend wiederum zu unzuverlässigen Entscheidungen führen.

Die mit dem KI-System verbundenen Risiken können die Verbraucher, Stakeholder, Mitarbeiter und sogar ganze Teile der Bevölkerung betreffen. Dabei wird eine ganzheitliche rechtliche Infrastruktur für KI noch entwickelt, doch viele der aufgeführten Aspekte sind bereits geregelt: Die Datenschutz-Grundverordnung (DSGVO) sowie die Charta der Grundrechte der Europäischen Union gelten hierbei als Musterbeispiele. Setzt ein Unternehmen also ein mangelhaft konzipiertes KI-System ein, kann es nicht nur Verbrauchern und Teilen der Bevölkerung potenziellen Schaden zufügen, sondern muss für dieses Fehlverhalten auch hohe rechtliche und finanzielle Strafen in Kauf nehmen. Zusätzlich können KI-Missbrauch oder -Versäumnisse auch das Vertrauen der Verbraucher schwächen und das Marken-Image beeinträchtigen.

Ethische KI umsetzen

Allgemein gilt, ist ein KI-System für den menschlichen Konsum oder die menschliche Interaktion konzipiert oder stützt sich auf von Menschen generierten oder über Menschen gesammelte Daten, dann ist eine ethische Analyse wahrscheinlich angemessen. Da das Ziel eines KI-Projektes nicht immer zu Beginn klar ersichtlich ist, müssen Unternehmen einen „grundlegenden Ansatz der Ethik“ verankern. So können sie die ethischen Auswirkungen jeder KI-Initiative vom Konzept bis zur Umsetzung umfassend bewerten.

  • Deshalb legt die von der Europäischen Kommission eingesetzte Expertengruppe für künstliche Intelligenz in ihrem Bericht „Ethics Guidelines for Trustworthy AI“ Schlüsselanforderungen für Unternehmen fest:
  • Sie sollten gewährleisten, dass das KI-System die Grundrechte des Menschen berücksichtigt und die menschliche Handlungsfähigkeit bestehen bleibt.
  • Die Sicherheit, Genauigkeit und Zuverlässigkeit des KI-Systems müssen soweit möglich garantiert werden. Dazu muss das KI-System gegen Cyberangriffe geschützt werden und es sollte verlässliche und reproduzierbare Vorhersagen treffen können.
  • Unternehmen sollten sicherstellen, dass das KI-System die Regelungen zu Privatsphäre und Datenschutz während des gesamten Lebenszyklus einhält.
  • Sie müssen alle Daten auf Voreingenommenheit, Ungenauigkeiten und Fehler hin überprüfen.
  • Um die Transparenz des KI-Systems sicherzustellen, müssen Unternehmen die Rückverfolgbarkeit von der Datenerfassung und -kennzeichnung bis hin zu den eingesetzten Algorithmen gewährleisten.
  • Erkennbare und diskriminierende Voreingenommenheit in der Datenerhebungsphase sollten behoben werden. Jedoch ist eine kontinuierliche Überwachung und Kontrolle erforderlich, um ungerechte Ergebnisse zu vermeiden.
  • Unternehmen müssen ihre KI-Systeme auf globale Auswirkungen hin überprüfen. Hierbei gilt es, den Ressourcen- und Energieverbrauch beim Modelltraining auszuwerten und auf umweltfreundlichere Alternativen zu achten sowie das Wohlergehen von bestimmten Bevölkerungsgruppen zu berücksichtigen.
  • Sie sollten Kontrollmechanismen einführen, um die verantwortungsvolle Implementierung von KI-Systemen sowie deren kontinuierliche Überprüfung zu garantieren.

Trotz allen Fortschritts steht der Einsatz von KI noch in seinen Anfängen. Da diese Systeme das Leben der Menschen weiterhin verbessern und Unternehmen Vorteile im Wettbewerb verschaffen können, werden neue KI-Anwendungen zunehmen. Berücksichtigen Unternehmen bei der Gestaltung und während des Einsatzes von KI ethische Gesichtspunkte, so können diese das Potenzial der Technologie ausschöpfen und zugleich einhergehende Risiken eindämmen.

it&t business medien OG
Tel.: +43/1/369 80 67-0
office@ittbusiness.at
Wir verwenden Cookies, um Ihnen den bestmöglichen Service anbieten zu können. Wenn Sie auf der Seite weitersurfen, stimmen Sie der Cookie-Nutzung zu.
OK