Alle 14 Tage aktuelle News aus der IT-Szene   >   
Florierender Markt für Access-as-a-Service-Cyberkriminalität 03. 12. 2021
Studie von Trend Micro: Der Cybercrime-Markt professionalisiert sich zusehends.
Positive Perspektiven 02. 12. 2021
Die rund 120 Teilnehmer zeigten sich auf dem Partnerevent 2021 von Cloud-ERP-Pionier myfactory guter Dinge.
Magenta kürte die innovativsten IoT-Lösungen 01. 12. 2021
Magenta IoT-Challenge honoriert nützliche und technisch reife Lösungen mit Markt- und Entwicklungspotential.
Veränderte Prioritäten in Zeiten einer Pandemie 30. 11. 2021
BARC veröffentlicht zweite Covid-Studie über die Auswirkungen der Krise auf Data & Analytics in Unternehmen.
"KI wird alternativlos werden" 29. 11. 2021
In der KI-gestützten Arbeitswelt der Zukunft steht der Mensch im Zentrum, prognostiziert die Kundenkonferenz.
UNO-148 Industrie PC für DIN-Rail Montage 24. 11. 2021
Robuster und leistungsstarker Industrie-PC (IPC) Automation Computer mit Intel Core i-Prozessor der 11. Generation.
Crate.io kündigt CrateOM an 23. 11. 2021
Die intelligente Lösung digitalisiert und optimiert Betriebsprozesse.
Arctic Wolf eröffnet Security Operations Center in Frankfurt 18. 11. 2021
Das IT-Security-Unternehmen baut seine Aktivitäten in der DACH-Region aus.
Neue Datacenter-Regionen 16. 11. 2021
hosttech erweitert sein virtual Datacenter mit neuen Serverstandorten in Wien und Appenzell.
SAP vergibt Quality Awards 2021 15. 11. 2021
Die Wiener Prinzhorn Holding, die Grazer Neuroth AG und Saatbau Linz wurden prämiert.
MP2 IT-Solutions baut IT-Kompetenz für den Gesundheitsbereich aus 12. 11. 2021
Der IT-Experte gründete kürzlich das Competence Center Digital Healthcare.
3G am Arbeitsplatz digital kontrollieren. 11. 11. 2021
Konica Minolta unterstützt Arbeitgeber mit „3G App“.
Nachhaltigkeit im Fokus 10. 11. 2021
SAP „Responsible Design and Production“ erleichtert den Umstieg auf Kreislaufwirtschaft.
Omega stellt sich neu auf 09. 11. 2021
Neuaufstellung der Vertriebskanäle bringt Änderungen im Top-Management.
Drei und SPL Tele bauen österreichweites LoRaWAN-Netz 08. 11. 2021
Die IoT-Technologie sorgt für die autonome Übertragung geringster Datenmengen, geringe Kosten und hohe Reichweiten.
LowPower-Sensorüberwachung mit großen Reichweiten 05. 11. 2021
BellEquip nimmt die innovativen Sensortechnologien von nke WATTECO ins Programm.
Ganzheitliche Kommunikationsplattform aus der Cloud 04. 11. 2021
NFON erweitert Cloudya um Funktionen für Videokonferenzen und CRM-Integration.
Smartes Informationsmanagement 03. 11. 2021
Optimal Systems verknüpft SharePoint, MS Teams und der ECM-Software enaio.
weiter
Trend Micro

Kriminelle nutzen Künstliche Intelligenz – nicht nur für Deepfakes

Europol, UNICRI und Trend Micro berichten über aktuelle und zukünftige Bedrohungen durch KI.

Foto: Clint Patterson/Unsplash Cyberkriminelle gehören schon immer zu den ersten Nutzern der neuesten Technologien – das ist auch bei KI so Trend Micro stellt einen neuen Forschungsbericht vor, der in Zusammenarbeit mit Europol und dem Interregionalen Institut der Vereinten Nationen für Kriminalitäts- und Justizforschung (UNICRI) entstand. Darin befassen sich die Sicherheitsforscher mit der aktuellen und möglichen zukünftigen Nutzung von künstlicher Intelligenz (KI) durch Kriminelle. Der Bericht liefert Strafverfolgungsbehörden, politischen Entscheidungsträgern und anderen Organisationen Informationen über aktuell stattfindende und potenzielle zukünftige Angriffe, bei denen künstliche Intelligenz eingesetzt wird, sowie Empfehlungen zur Eindämmung dieser Risiken.

Effizienz, Automatisierung und Autonomie

„KI verspricht der Welt mehr Effizienz, Automatisierung und Autonomie. In einer Zeit, in der die Öffentlichkeit zunehmend über den möglichen Missbrauch von KI besorgt ist, müssen wir die Bedrohungen transparent machen, aber auch die potenziellen Vorteile der KI-Technologie untersuchen“, sagt Edvardas Šileris, Leiter des Cyberkriminalitätszentrums von Europol (Europol EC3). „Dieser Bericht wird uns nicht nur dabei helfen, mögliche böswillige Verwendungen und Missbräuche von KI zu antizipieren, sondern auch diese Bedrohungen proaktiv zu verhindern und einzudämmen. Auf diese Weise können wir das Potenzial der KI freisetzen und von der positiven Nutzung der KI-Systeme profitieren.“

Angriffsvektor und Angriffsoberfläche

Der Bericht kommt zu dem Schluss, dass Cyberkriminelle KI sowohl als Angriffsvektor als auch als Angriffsoberfläche nutzen werden. Deepfakes (realistisch wirkende Medieninhalte wie Foto, Audio und Video, welche durch KI abgeändert und verfälscht wurden) stellen derzeit die bekannteste Nutzung von KI als Angriffsvektor dar. Der Bericht warnt jedoch davor, dass in Zukunft neue Screening-Technologien erforderlich sein werden, um das Risiko von Desinformationskampagnen und Erpressung sowie von Bedrohungen, die auf KI-Datensätze abzielen, zu verringern.

KI könnte beispielsweise eingesetzt werden, um folgende Angriffsarten zu unterstützen:

  • Überzeugende Social-Engineering-Angriffe in großem Maßstab
  • Malware, mit der in großem Maße bestimmte Daten aus Dokumenten exfiltriert werden können (Document Scraping)
  • Umgehung von Bilderkennung und Stimmbiometrie
  • Ransomware-Angriffe, bei denen die Opfer noch gezielter ausgewählt und Schutzmechanismen umgangen werden
  • Datenverschmutzung durch die Identifizierung von blinden Stellen in Erkennungsregeln

„In dem Maße, in dem KI-Anwendungen einen wachsenden Einfluss auf die reale Welt nehmen, wird klar, dass dies zukünftig eine grundlegende Technologie sein wird“, erklärt Irakli Beridze, Leiter des Zentrums für KI und Robotik bei UNICRI. „Doch so wie KI für die Gesellschaft sehr reale Vorteile bietet sind, ist auch die Bedrohung durch böswillige Nutzung allgegenwärtig. Wir fühlen uns geehrt, gemeinsam mit Europol und Trend Micro ein Licht auf die dunkle Seite der KI zu werfen und weitere Diskussionen zu diesem wichtigen Thema anzuregen.“

Der Report warnt auch davor, dass KI-Systeme entwickelt werden, um die Wirksamkeit von Malware zu verbessern und Anti-Malware- und Gesichtserkennungssysteme zu stören.

Cyberkriminelle sind Vorreiter

„Cyberkriminelle gehören schon immer zu den ersten Nutzern der neuesten Technologien – das ist auch bei KI so. Wie unser Bericht zeigt, wird sie bereits für das Ermitteln von Passwörtern, das Brechen von CAPTCHA-Codes und das Klonen von Stimmen verwendet. Zudem sind noch viele weitere bösartige Innovationen in Arbeit“, so Martin Rösler, Leiter des Forward-Looking Threat Research Teams bei Trend Micro. „Wir sind stolz darauf, mit Europol und UNICRI zusammenzuarbeiten, um das Bewusstsein für diese Bedrohung zu schärfen und auf diese Weise dazu beizutragen, eine sicherere digitale Zukunft für uns alle zu schaffen.“

Die drei Organisationen empfehlen zum Abschluss des Berichts verschiedene Maßnahmen im Umgang mit KI:

  • Nutzung des Potentials von KI-Technologie als Mittel zur Verbrechensbekämpfung, um die Cybersicherheits-Branche und die Polizei zukunftsfähig zu machen
  • Fortsetzung der Forschung im KI-Bereich, um weitere Verteidigungstechnologien zu entwickeln
  • Förderung und Entwicklung sicherer KI-Design-Frameworks
  • Deeskalation von politisch aufgeladener Rhetorik über den Einsatz von KI für Zwecke der Cybersicherheit
  • Nutzung öffentlich-privater Partnerschaften und Einrichtung multidisziplinärer Expertengruppen

Der vollständige Forschungsbericht "Malicious Uses and Abuses of Artificial Intelligence" ist in englischer Sprache zum Download verfügbar.

it&t business medien OG
Tel.: +43/1/369 80 67-0
office@ittbusiness.at
Wir verwenden Cookies, um Ihnen den bestmöglichen Service anbieten zu können. Wenn Sie auf der Seite weitersurfen, stimmen Sie der Cookie-Nutzung zu.
OK