Alle 14 Tage aktuelle News aus der IT-Szene   >   
Strategische Partnerschaft zwischen Check Point und Wiz zur Absicherung hybrider Cloud-Umgebungen 11. 02. 2025
Check Point Software Technologies und der Cloud-Sicherheitsanbieter Wiz gehen eine strategische Partnerschaft ein, um Unternehmen eine umfassendere Absicherung hybrider Cloud-Umgebungen zu ermöglichen. Durch die technologische Integration beider Plattformen sollen Netzwerksicherheit und Cloud Native Application Protection (CNAPP) besser zusammengeführt werden.
Gefährliche Neugier - zwei von drei Personen klicken unsichere Inhalte im Netz an 06. 02. 2025
Zwei Drittel der Arbeitnehmerinnen und Arbeitnehmer in Deutschland haben bereits auf unbekannte Links geklickt, die potenziell Malware enthalten. Das zeigt die aktuelle Studie „Cybersicherheit in Zahlen“ von der G DATA CyberDefense AG, Statista und brand eins. Der Hauptgrund: Neugier. Diese Unvorsichtigkeit stellt auch für Unternehmen eine ernstzunehmende Gefah
Gefälschte Jobangebote zielen auf Entwickler 06. 02. 2025
Eine laufende Kampagne auf LinkedIn nutzt fingierte Jobangebote für Software-Entwickler, um Schadsoftware zu verbreiten. Die Bitdefender Labs identifizieren Verbindungen zur nordkoreanischen Lazarus-Gruppe (APT 38). Die vermeintlichen Bewerbungsverfahren dienen als Tarnung für die Verbreitung eines Infostealers, der auf Kryptowallets abzielt.
Red Hat beleuchtet Platform Engineering in der KI-Ära 05. 02. 2025
Ein neuer Bericht von Red Hat untersucht den aktuellen Stand des Platform Engineering und die Rolle generativer KI in Unternehmen. Die Umfrage unter 1.000 IT-Entscheidungsträgern zeigt, dass KI zunehmend als zentrale Komponente für Effizienzsteigerung, Sicherheit und Innovation gesehen wird.
Arctic Wolf sichert sich Cylance-Technologie für optimierte Bedrohungsabwehr 04. 02. 2025
Arctic Wolf hat die Übernahme der Cylance Endpoint Security Assets von BlackBerry erfolgreich abgeschlossen. Die Integration der KI-gestützten Funktionen von Cylance in die Arctic Wolf Aurora-Plattform soll Unternehmen eine verbesserte Bedrohungserkennung und -abwehr ermöglichen.
Zimperium warnt vor neuartiger PDF-Mishing-Kampagne in über 50 Ländern 31. 01. 2025
Cyberkriminelle setzen manipulierte PDF-Dokumente ein, um gezielt Anmeldeinformationen und sensible Daten zu stehlen. Sicherheitsforscher von Zimperium dokumentieren eine weitreichende Kampagne mit Hunderten von Phishing-Seiten.
DeepSeek AI rückt ins Rampenlicht – doch was bedeutet das für die Cybersicherheit? 29. 01. 2025
DeepSeek, ein Open-Source-Sprachmodell, eröffnet neue Möglichkeiten für Innovation, birgt jedoch auch Sicherheitsrisiken. Chester Wisniewski, Global Field CTO bei Sophos, gibt eine erste Einschätzung zur potenziellen Nutzung und den Herausforderungen für Unternehmen.
SECURE - EU-Initiative fördert Cybersicherheit in kleinen und mittleren Unternehmen 27. 01. 2025
Das EU-Projekt SECURE fördert ab 2025 die Cybersicherheits-Resilienz von KMU in Europa. Mit einem Budget von 15 Millionen Euro werden Unternehmen bei der Umsetzung des Cyber Resilience Acts sowie der Integration nachhaltiger Sicherheitsmaßnahmen unterstützt.
HATAHET productivity solutions wird DC1 Digital Consulting Group 27. 01. 2025
Die HATAHET productivity solutions GmbH firmiert ab sofort unter dem Namen DC1 Digital Consulting Group. Mit unveränderter Expertise und einem klaren Fokus auf Innovation und Fortschritt begleitet das Unternehmen weiterhin Organisationen bei der digitalen Transformation.
Infineon und das BSI ebnen den Weg für eine quantenresistente Zukunft 24. 01. 2025
Infineon Technologies AG und das Bundesamt für Sicherheit in der Informationstechnik (BSI) haben einen Durchbruch in der Post-Quanten-Kryptografie erzielt. Mit der weltweit ersten Common Criteria EAL6-Zertifizierung für einen PQC-Algorithmus auf einem Sicherheitscontroller setzen sie neue Maßstäbe im Schutz vor künftigen Bedrohungen durch Quantencomputer.
Citrix übernimmt Unicon und setzt auf nachhaltige IT-Lösungen 23. 01. 2025
Mit der Übernahme des deutschen Unternehmens Unicon erweitert Citrix sein Portfolio um das Betriebssystem eLux und die Managementplattform Scout. Damit können Unternehmen bestehende Hardware effizienter nutzen, Kosten senken und Sicherheitsstandards verbessern – ein Schritt hin zu nachhaltigeren IT-Strategien.
Neue Partnerschaft zwischen Qualtrics und SAP für Employee Experience 22. 01. 2025
Qualtrics und SAP haben eine Partnerschaft angekündigt, die Unternehmen eine Integration von SAP SuccessFactors mit Qualtrics XM for Employee Experience ermöglicht. Ziel ist es, Mitarbeiterengagement und Produktivität zu steigern sowie die Mitarbeiterfluktuation zu senken.
Neue Vertriebspartnerschaft zwischen Alcatel-Lucent Enterprise und PKE 21. 01. 2025
Alcatel-Lucent Enterprise hat eine Vertriebspartnerschaft mit der PKE Holding AG mit Sitz in Wien geschlossen. Diese Zusammenarbeit umfasst den Vertrieb von Kommunikations- und Netzwerklösungen in Österreich, Deutschland, der Schweiz und Tschechien. Ziel ist es, vor allem Kunden aus den Bereichen der öffentlichen Verwaltung und des Gesundheitswesens zu erreichen.
Geoblocking bleibt trotz Verordnung eine Herausforderung 20. 01. 2025
Seit 2018 gibt es in der EU eine Verordnung gegen ungerechtfertigtes Geoblocking, die den Zugang zu Online-Diensten und -Produkten für Verbraucher vereinheitlichen soll. Doch laut einem Bericht des Europäischen Rechnungshofs gibt es weiterhin Defizite bei der Umsetzung, und wichtige Bereiche wie audiovisuelle Angebote sind nicht abgedeckt.
Wie unstrukturierte Daten und KI die Datenlandschaft revolutionieren 16. 01. 2025
Unstrukturierte Daten wachsen rasant und werden zur Grundlage für Künstliche Intelligenz. Dell Technologies beleuchtet Trends wie Object Storage, Data Lakes und Edge Computing, die die Unternehmensdatenlandschaften nachhaltig verändern.
Social Engineering Angriffe besonders auf mobilen Endgeräten erfolgreich 15. 01. 2025
Social Engineering – die gezielte Täuschung von Nutzern, um Sicherheitsbarrieren zu umgehen – wird immer häufiger als Einfallstor für Malware-Angriffe genutzt. Michael Covington, VP Portfolio Strategy bei Jamf und Experte für Cybersicherheit, erläutert diese aktuelle Bedrohungen, die besonders auf mobilen Endgeräten erfolgreich sind.
Deutsche Verbraucher zeigen Zurückhaltung bei KI im Kundenservice 14. 01. 2025
Laut dem CX Trend Report 2025 von Zendesk sehen 54 Prozent der deutschen Verbraucher KI im Kundenservice positiver, wenn diese menschenähnlich reagiert. Im internationalen Vergleich bleibt das Vertrauen in KI in Deutschland jedoch zurückhaltender, wie die Studie zeigt.
Jedes zweite Unternehmen von Angriffen auf OT Systemen betroffen 14. 01. 2025
Eine aktuelle Umfrage von Sophos beleuchtet die Cybersicherheitslage bei OT-Systemen in der DACH-Region. Fast die Hälfte der Unternehmen hatte bereits Angriffe, bei denen OT-Systeme als Einfallstor genutzt wurden. Trotz umfangreicher Schutzmaßnahmen bleibt die Herausforderung groß – besonders in kritischen Infrastrukturen.
weiter
Wie Hacker Schutzmechanismen von LLMs umgehen

Jailbreaking-Methoden im Test - Warum KI-Modelle verwundbarer sind als gedacht

Forschungen von Unit 42 zeigen, dass selbst moderne Large Language Models (LLMs) wie DeepSeek durch neue Jailbreaking-Techniken umgangen werden können. Die Methoden Deceptive Delight, Bad Likert Judge und Crescendo ermöglichen es, die Schutzmechanismen von KI-Modellen zu überlisten und unerlaubte Inhalte zu generieren. Diese Erkenntnisse verdeutlichen die Herausforderungen für Unternehmen, wenn es um den sicheren Einsatz von generativer KI geht.

Künstliche Intelligenz entwickelt sich rasant weiter, doch auch die Methoden zur Umgehung von Sicherheitsmechanismen schreiten voran. Sicherheitsforscher von Unit 42 haben drei neue Jailbreaking-Techniken identifiziert, mit denen sich aktuelle LLMs manipulieren lassen. Besonders das Open-Source-Modell DeepSeek zeigt hohe Verwundbarkeiten. Dies wirft Fragen für Unternehmen auf: Wie sicher sind KI-Modelle wirklich? Welche Risiken bestehen, wenn Mitarbeiter unkontrolliert mit LLMs arbeiten? Und welche Maßnahmen sollten Unternehmen treffen, um sich zu schützen?

Jailbreaking - wenn KI-Modelle ihren Schutz verlieren

Jailbreaking bezeichnet das gezielte Umgehen von Sicherheitsbarrieren in KI-Modellen, die eigentlich verhindern sollen, dass LLMs schädliche oder verbotene Inhalte generieren. Ähnlich wie das Umgehen von Schutzmechanismen in Betriebssystemen, kann Jailbreaking dazu genutzt werden, um unerlaubte Anfragen zu umgehen und detaillierte Anleitungen für sicherheitskritische Themen wie Malware-Programmierung oder Social Engineering zu erhalten. Die von Unit 42 entdeckten Techniken zeigen, dass diese Angriffe immer raffinierter werden und bereits ohne tiefgehendes technisches Know-how durchführbar sind.

Drei effektive Angriffsstrategien Die drei untersuchten Methoden verdeutlichen, wie vielseitig Jailbreaking sein kann:

  • Bad Likert Judge: Diese Methode nutzt ein Bewertungssystem, um das KI-Modell zur Generierung unerlaubter Inhalte zu verleiten. Durch geschickte Manipulation wird die KI dazu gebracht, schädliche Inhalte als harmlose Beispiele zu bewerten und auszugeben.

  • Crescendo: Hierbei wird die KI schrittweise an ein verbotenes Thema herangeführt. Die Anfrage beginnt harmlos und eskaliert durch geschickte Folgefragen, bis detaillierte und sicherheitskritische Anleitungen entstehen.

  • Deceptive Delight: Diese Technik tarnt unsichere Themen innerhalb von harmlosen Anfragen, beispielsweise in einer fiktiven Geschichte oder einem technischen Szenario, sodass die KI unbeabsichtigt unerlaubte Informationen generiert.

Foto: Adobe Stock / brillianata

Welche Risiken bestehen für Unternehmen?

Die identifizierten Schwachstellen zeigen, dass LLMs nicht nur ein Innovationsmotor, sondern auch ein Sicherheitsrisiko sein können. Besonders problematisch ist, dass Jailbreaking-Techniken es ermöglichen, generative KI für Cyberangriffe zu missbrauchen. Dazu zählen:

  • Die Erstellung von Schadsoftware wie Keyloggern oder Skripten zur Datenexfiltration

  • Die Generierung von Phishing-Mails mit gezielten Manipulationstechniken

  • Anleitungen für die Herstellung von gefährlichen Substanzen oder Explosivstoffen

Unternehmen müssen sich bewusst sein, dass nicht nur ihre eigenen KI-Modelle, sondern auch unkontrollierte Anwendungen durch Mitarbeitende eine potenzielle Gefahr darstellen. Die Nutzung von nicht autorisierten LLMs kann die Sicherheit von Unternehmensnetzwerken und sensiblen Daten erheblich gefährden.

Strategien zur Risikominimierung

Es gibt keine hundertprozentige Sicherheit gegen Jailbreaking, aber Unternehmen können Maßnahmen ergreifen, um das Risiko zu minimieren:

  • Einschränkung des Zugriffs auf unsichere LLMs: Unternehmen sollten nur vertrauenswürdige KI-Modelle mit strengen Sicherheitsvorgaben nutzen und den Zugang zu offenen Modellen begrenzen.

  • Monitoring und Protokollierung der KI-Nutzung: Durch KI-gestützte Sicherheitslösungen kann beobachtet werden, welche Anfragen an LLMs gestellt werden, um verdächtige Interaktionen zu erkennen.

  • Security-Trainings für Mitarbeiter: Sensibilisierung und Schulung helfen, die Risiken im Umgang mit KI zu verstehen und potenzielle Angriffsvektoren zu minimieren.

  • Regelmaßige Sicherheitsbewertungen: Durch Tests von unabhängigen Sicherheitsforschern können Schwachstellen in unternehmenseigenen KI-Systemen frühzeitig erkannt und behoben werden.

Die aktuelle Forschung zeigt, dass generative KI-Modelle noch weit davon entfernt sind, vollständig abgesichert zu sein. Jailbreaking-Techniken wie Bad Likert Judge, Crescendo und Deceptive Delight unterstreichen, dass sich Sicherheitsmechanismen mit vergleichsweise einfachen Methoden umgehen lassen. Für Unternehmen bedeutet dies, dass sie nicht nur die Entwicklung eigener LLMs mit strengen Sicherheitsprotokollen versehen, sondern auch die Nutzung von KI in ihrem Unternehmen aktiv steuern und kontrollieren müssen. Nur so lässt sich das Potenzial der KI sicher und verantwortungsvoll nutzen.

it&t business medien eU
Tel.: +43/1/369 80 67-0
office@ittbusiness.at