Alle 14 Tage aktuelle News aus der IT-Szene   >   
Infrastrukturlösungen aus einer Hand 16. 08. 2022
R&M bietet ab sofort integrierte RZ-Lösungen von der Verkabelung über Racks, Einhausungen und Kühlung bis zum digitalen Infrastrukturmanagement.
Spezialisten-Suche: Besetzungslücke bleibt 11. 08. 2022
Arbeitsmarkt für Sales-, und Marketingexperten unverändert hoch, Rückgänge bei Engineering und IT.
Onventis setzt Wachstumskurs fort 10. 08. 2022
Der Anbieter von Source-to-Pay-Lösungen gründet eine neue Ländergesellschaft in Österreich.
Ingram Micro TOP heuer wieder als Live-Event 09. 08. 2022
ITK-Distributor lädt zur Fachhandelsmesse in die Pyramide Vösendorf.
hosttech-Datacenter ist ISO 27001 zertifiziert 20. 07. 2022
Zertifizierung stellt Einhaltung von Datenschutzrichtlinien und Systemsicherheit sicher.
Kontinuität und Veränderung im Vorstand 19. 07. 2022
Vorstandsspitze der der Plattform Industrie 4.0 Österreich wiedergewählt, zwei Neuzugänge komplettieren das Führungsteam.
Unternehmen verschenken Potenzial bei Software-Entwicklung 18. 07. 2022
Studie: Weniger als die Hälfte der Unternehmen pflegt eine mit umfassende DevOps-Kultur.
Tech Data startet Distribution für Software AG 15. 07. 2022
Der Distributor vertreibt die Business Software-Produkte ab sofort der DACH-Region.
Atoss als österreichischer Leitbetrieb zertifiziert 14. 07. 2022
Das Softwarehaus mit Fokus auf Workforce Management erhält die Auszeichnung zum ersten Mal.
Count IT expandiert nach Deutschland 13. 07. 2022
Münchner ECM-Spezialist letterscan wird Teil der Gruppe.
Digitale Trackingsysteme für Baustellen und Logistik 12. 07. 2022
A1 Asset Insight ermöglicht weltweite Ortung und Überwachung von Maschinen und Objekten.
„SHEgoesDIGITAL“ holt Frauen und Mädchen in die IT 12. 07. 2022
Die Initiative will die digitale Zukunft weiblicher machen.
ISPA feierte 25-Jahre-Jubiläum 30. 06. 2022
Gemeinsam mit VIX der Universität Wien und über 400 Gästen aus Politik, Wirtschaft und Wissenschaft beging die Interessenvertretung der Internetwirtschaft ISPA ihr 25-jähriges Bestehen.
Sicherer USV-Shutdown bei elektrischen Großanlagen 29. 06. 2022
BellEquip entwickelt eine spezielle USV-Konfiguration, die reibungslose Abschaltabläufe gewährleistet.
proALPHA übernimmt Empolis 28. 06. 2022
Das deutsche ERP-Haus verstärkt sich mit KI-gestützter Service-Management-Expertise aus der Cloud.
Alles neu beim VÖSI 27. 06. 2022
Klaus Veselko wird neuer Präsident – Verband wird umbenannt.
Das digitale Bezahlverhalten der Österreicher 24. 06. 2022
Der Digital Payment Index von Mastercard vergleicht das Bezahlverhalten hinsichtlich digitaler Zahlungsmethoden. 86 Prozent aller Kartentransaktionen am Point-of-Sale finden bereits kontaktlos statt.
Nagarro kürte die besten Ideen für die Cloud 23. 06. 2022
Brantner Green Solutions und Miba gewinnen den Innovationspreis im Wert von 50.000 Euro.
weiter
Cloudera

Ethik in der KI

Gastbeitrag: Warum Ethik und KI zusammen gedacht werden müssen und was das für Unternehmen bedeutet, erklärt Melanie Beck.

Foto: privat Die Autorin Melanie Beck ist Machine Learning Research Engineer bei Cloudera Dank visionärer Unternehmen hält künstliche Intelligenz (KI) im Alltag Einzug. Dabei hebt eine Umfrage von FICO hervor, dass die meisten Unternehmen, die mit der von ihnen genutzten KI-Technologie potenziell einhergehenden Risiken noch nicht vorhersehen oder zumindest ganzheitlich verstehen können. Dadurch eröffnen sich vielfältige Möglichkeiten für Fehlanwendung, Missbrauch und mangelhaftes Design, was wiederum negative, unbeabsichtigte Folgen haben kann.

Das Risiko der KI

Um die Risiken des KI-Einsatzes einschätzen zu können, müssen die potenziellen durch KI verursachten Schäden, wie beispielsweise Voreingenommenheit und Diskriminierung, verstanden werden. Denn die Erkenntnisse von KI-Systemen basieren auf Daten, welche häufig gesellschaftliche Dynamiken, wie Marginalisierung, Ungleichheit und Diskriminierung widerspiegeln. Diese Muster können reproduziert, verstärkt oder sogar vergrößert werden. Dabei können KI-Systeme die menschliche Autonomie sowie Grundrechte unterdrücken. Ohne Regress ist es jedoch schwierig bis unmöglich, gegen diese Verstöße vorzugehen. Damit nicht genug, so können KI-Modelle die Privatsphäre verletzen, indem sie komplexe Zusammenhänge erlernen und dadurch Rückschlüsse auf geschützte Merkmale wie Alter oder Geschlecht ziehen. Zudem können aufgrund mangelhafter Design- und Produktionspraktiken unsichere Ergebnisse entstehen, die nicht präzise oder reproduzierbar sind. Dies kann anschließend wiederum zu unzuverlässigen Entscheidungen führen.

Die mit dem KI-System verbundenen Risiken können die Verbraucher, Stakeholder, Mitarbeiter und sogar ganze Teile der Bevölkerung betreffen. Dabei wird eine ganzheitliche rechtliche Infrastruktur für KI noch entwickelt, doch viele der aufgeführten Aspekte sind bereits geregelt: Die Datenschutz-Grundverordnung (DSGVO) sowie die Charta der Grundrechte der Europäischen Union gelten hierbei als Musterbeispiele. Setzt ein Unternehmen also ein mangelhaft konzipiertes KI-System ein, kann es nicht nur Verbrauchern und Teilen der Bevölkerung potenziellen Schaden zufügen, sondern muss für dieses Fehlverhalten auch hohe rechtliche und finanzielle Strafen in Kauf nehmen. Zusätzlich können KI-Missbrauch oder -Versäumnisse auch das Vertrauen der Verbraucher schwächen und das Marken-Image beeinträchtigen.

Ethische KI umsetzen

Allgemein gilt, ist ein KI-System für den menschlichen Konsum oder die menschliche Interaktion konzipiert oder stützt sich auf von Menschen generierten oder über Menschen gesammelte Daten, dann ist eine ethische Analyse wahrscheinlich angemessen. Da das Ziel eines KI-Projektes nicht immer zu Beginn klar ersichtlich ist, müssen Unternehmen einen „grundlegenden Ansatz der Ethik“ verankern. So können sie die ethischen Auswirkungen jeder KI-Initiative vom Konzept bis zur Umsetzung umfassend bewerten.

  • Deshalb legt die von der Europäischen Kommission eingesetzte Expertengruppe für künstliche Intelligenz in ihrem Bericht „Ethics Guidelines for Trustworthy AI“ Schlüsselanforderungen für Unternehmen fest:
  • Sie sollten gewährleisten, dass das KI-System die Grundrechte des Menschen berücksichtigt und die menschliche Handlungsfähigkeit bestehen bleibt.
  • Die Sicherheit, Genauigkeit und Zuverlässigkeit des KI-Systems müssen soweit möglich garantiert werden. Dazu muss das KI-System gegen Cyberangriffe geschützt werden und es sollte verlässliche und reproduzierbare Vorhersagen treffen können.
  • Unternehmen sollten sicherstellen, dass das KI-System die Regelungen zu Privatsphäre und Datenschutz während des gesamten Lebenszyklus einhält.
  • Sie müssen alle Daten auf Voreingenommenheit, Ungenauigkeiten und Fehler hin überprüfen.
  • Um die Transparenz des KI-Systems sicherzustellen, müssen Unternehmen die Rückverfolgbarkeit von der Datenerfassung und -kennzeichnung bis hin zu den eingesetzten Algorithmen gewährleisten.
  • Erkennbare und diskriminierende Voreingenommenheit in der Datenerhebungsphase sollten behoben werden. Jedoch ist eine kontinuierliche Überwachung und Kontrolle erforderlich, um ungerechte Ergebnisse zu vermeiden.
  • Unternehmen müssen ihre KI-Systeme auf globale Auswirkungen hin überprüfen. Hierbei gilt es, den Ressourcen- und Energieverbrauch beim Modelltraining auszuwerten und auf umweltfreundlichere Alternativen zu achten sowie das Wohlergehen von bestimmten Bevölkerungsgruppen zu berücksichtigen.
  • Sie sollten Kontrollmechanismen einführen, um die verantwortungsvolle Implementierung von KI-Systemen sowie deren kontinuierliche Überprüfung zu garantieren.

Trotz allen Fortschritts steht der Einsatz von KI noch in seinen Anfängen. Da diese Systeme das Leben der Menschen weiterhin verbessern und Unternehmen Vorteile im Wettbewerb verschaffen können, werden neue KI-Anwendungen zunehmen. Berücksichtigen Unternehmen bei der Gestaltung und während des Einsatzes von KI ethische Gesichtspunkte, so können diese das Potenzial der Technologie ausschöpfen und zugleich einhergehende Risiken eindämmen.

it&t business medien OG
Tel.: +43/1/369 80 67-0
office@ittbusiness.at
Wir verwenden Cookies, um Ihnen den bestmöglichen Service anbieten zu können. Wenn Sie auf der Seite weitersurfen, stimmen Sie der Cookie-Nutzung zu.
OK