Wie funktioniert KI in der Cybersicherheit? Anwendungsbereiche, Vorteile, Risiken und Beispiele

Sicherheitsteams nutzen künstliche Intelligenz (KI), um riesige Mengen an Telemetriedaten zu durchforsten, auffällige Aktivitäten zu erkennen und Untersuchungen effizienter zu gestalten. Auch Cyberkriminelle haben die neue Technologie für sich entdeckt: Sie verbessern damit ihre Phishing-Kampagnen , automatisieren Betrugsmaschen und schaffen mehr Angriffe in kürzerer Zeit. Doch wie kann eine Technologie gleichzeitig Verteidigern und Angreifern helfen?

Manche Schlagzeilen stellen KI als die Zukunft der Cybersicherheit dar. Für andere ist sie das neue Sicherheitsrisiko par excellence, das Sicherheitsverantwortliche nicht kontrollieren können. Die Realität liegt irgendwo dazwischen. KI ist weder der Feind noch die Antwort auf jedes Sicherheitsproblem. Tatsächlich integrieren laut ESET SMB Cyber Readiness Index 2026 bereits 73 % der kleinen und mittleren Unternehmen (KMU) KI in ihre Abläufe. Allerdings befürchten knapp drei Viertel, dass KI neue Sicherheitsrisiken mit sich bringt. Bei verantwortungsvollem Einsatz ist sie ein Werkzeug, das Sicherheitsverantwortlichen bei der Arbeit unterstützt. Bei unverantwortlicher Nutzung kann sie jedoch neue Risiken schaffen.

Unternehmen, die den größten Nutzen aus KI ziehen wollen, sehen in ihr nicht einen Ersatz für Sicherheitsexperten. Stattdessen nutzen sie KI, damit qualifizierte Fachkräfte in kürzerer Zeit bessere Entscheidungen treffen können.

Kernaussagen dieses Artikels:

KI hilft Sicherheitsteams dabei, Bedrohungen zu erkennen, Warnmeldungen zu priorisieren, komplexe Aktivitäten zu analysieren und schneller zu reagieren. Sie funktioniert jedoch am besten in Kombination mit menschlichem Input.

Angreifer nutzen KI zur Verbesserung von Phishing, Social Engineering, Betrug und zur Automatisierung von Angriffen. Bekannte Bedrohungen skalieren und überzeugen eher.

KI bringt zudem neue Sicherheitsherausforderungen mit sich, wie „Shadow AI“, Datenlecks, adversarische Manipulation und Governance-Risiken, die Unternehmen aktiv bewältigen müssen.

Dennoch bleiben bekannte Schwachstellen wie Phishing, schwache Passwörter, nicht gepatchte Systeme und unzureichende Überwachung weiterhin Hauptursachen für Vorfälle.

Die Zukunft der Cybersicherheit liegt in menschlichem Fachwissen, das durch KI verstärkt wird und auf soliden Sicherheitsgrundlagen sowie verantwortungsvoller Governance basiert.

Was ist KI in der Cybersicherheit?

KI in der Cybersicherheit bedeutet den Einsatz intelligenter Algorithmen, um Bedrohungen zu erkennen, Verhaltensweisen zu analysieren, Warnmeldungen zu priorisieren, Untersuchungen zu unterstützen und Sicherheitsabläufe zu verbessern. Das bedeutet jedoch nicht, Sicherheitsentscheidungen an Maschinen zu übertragen.

Eines der häufigsten Missverständnisse ist, dass KI Cybersicherheitsteams ersetzen wird. In der Praxis liegt ihr wahrer Wert darin, Analysten bei der Priorisierung von Aktivitäten zu untersützen.

Im Kern hilft KI Sicherheitsteams dabei, die ständig wachsende Datenflut zu bewältigen. Ein modernes Unternehmen generiert enorme Mengen an Sicherheitsdaten: Jeder Anmeldeversuch, jede Endpunktaktivität, jede Netzwerkverbindung, jedes Cloud-Ereignis und jede Anwendungsinteraktion erzeugt Informationen, die relevant sein könnten – oder auch nicht. Irgendwo in diesen Daten verborgen versteckt sich oft das erste Anzeichen für einen Angriff.

Wo KI hilft – und wo Menschen nach wie vor wichtig sind

Menschliche Analysten können nicht jedes Ereignis manuell überprüfen. KI hilft ihnen dabei, die Flut an Aktivitiäten einzugrenzen. Anstatt jedes Event einzeln prüfen zu müssen, nutzen Sicherheitsverantwortliche KI-gesteuerte Systeme für eine Vielzahl an Arbeiten: Etwa um ungewöhnliche Aktivitäten zu identifizieren, zusammenhängende Ereignisse zu verknüpfen und Vorfälle aufzudecken, die sofortige Aufmerksamkeit erfordern. Das Ergebnis ist ein gezielterer und effizienterer Sicherheitsbetrieb.

Die menschliche Aufsicht ist dabei unverzichtbar, da Sicherheitsentscheidungen Kontext, Urteilsvermögen und Verantwortlichkeit erfordern, die Software nicht bieten kann. Menschen sind nach wie vor besser darin, geschäftliche Auswirkungen zu verstehen, konkurrierende Prioritäten abzuwägen und zu entscheiden, welche Maßnahmen letztendlich ergriffen werden sollten. Deshalb kombinieren die stärksten Cybersicherheitsprogramme maschinelle Effizienz mit menschlichem Fachwissen.

Auch der geschäftliche Bedarf an KI-gestützten Sicherheitsfunktionen wird immer deutlicher. Auf die Frage hin, wie KMU KI im Rahmen ihrer Cybersicherheitsstrategien einsetzen möchten, nannten sie als häufigste Prioritäten die Vorhersage von Bedrohungen sowie die schnellere Erkennung und Abwehr von Angriffen.

KI für Cybersicherheit vs. KI-Sicherheit

In Diskussionen über KI und Cybersicherheit werden gerne zwei unterschiedliche Konzepte miteinander vermischt. Das eine konzentriert sich auf den Einsatz von KI zur Verbesserung der Sicherheitsergebnisse, während das andere von der Absicherung der KI selbst handelt. Schauen wir uns den Unterschied einmal genauer an.

KI für Cybersicherheit

KI für Cybersicherheit bezieht sich auf den Einsatz von KI-Technologien im Sicherheitsbetrieb.

Beispiele hierfür sind Systeme, die:

verdächtige Aktivitäten erkennen
Malware analysieren
zusammenhängende Ereignisse miteinander in Beziehung setzen
Warnmeldungen priorisieren
Untersuchungen unterstützen
Mögliche Gegenmaßnahmen empfehlen

Das Ziel ist klar: Sicherheitsverantwortlichen sollen Bedrohungen effizienter erkennen und darauf reagieren können.

KI-Sicherheit

KI-Sicherheit befasst sich mit einer ganz anderen Herausforderung.

Wenn Unternehmen KI-Assistenten, Tools ähnlich wie ChatGPT, KI-Agenten, autonome Arbeitsabläufe und maßgeschneiderte KI-Anwendungen einführen, schaffen sie neue Ressourcen, die geschützt werden müssen. Diese Systeme können sensible Informationen verarbeiten, auf interne Ressourcen zugreifen oder im Namen der Benutzer Aktionen ausführen.

Daher konzentriert sich KI-Sicherheit auf den Schutz von:

KI-Modelle
KI-Tools
KI-Agenten
Eingabeaufforderungen
Datenquellen
Integrationen
Benutzer, die mit KI-Systemen interagieren

Ein Unternehmen kann KI-gestützte Cybersicherheitslösungen einsetzen, um die Erkennung von Bedrohungen zu verbessern, und gleichzeitig KI-Sicherheitslösungen nutzen, um sein eigenes KI-Ökosystem zu schützen. Diesen Unterschied zu verstehen, hilft Unternehmen bei der Entwicklung stärkerer langfristiger Sicherheitsstrategien.

Wie KI in der Cybersicherheit eingesetzt wird

Die meisten praktischen Anwendungen von KI in der Cybersicherheit verfolgen ein gemeinsames Ziel: Sicherheitsverantwortlichen sollen aussagekräftige Signale in überwältigenden Datenmengen finden. Die Technologie mag sich von Plattform zu Plattform unterscheiden, doch die zugrunde liegende Herausforderung bleibt dieselbe. Sehen wir uns einige Schlüsselbereiche an, in denen KI zum Einsatz kommt.

Bedrohungserkennung

Eine der ältesten Anwendungen von KI in der Cybersicherheit ist die Identifizierung verdächtiger Dateien und böswilliger Verhaltensweisen.

Ein bemerkenswertes Beispiel ist die „DNA Detections“-Technologie von ESET. Sie wurde 2005 eingeführt und extrahiert Schlüsselmerkmale aus potenziell bösartigen Proben, um umfassendere Erkennungsprofile zu erstellen. Anstatt sich ausschließlich auf exakte Übereinstimmungen zu verlassen, hilft die Technologie dabei, bisher unbekannte Bedrohungen zu identifizieren, die Merkmale mit bekannter Malware teilen. Der Prozess wird regelmäßig durch eine Kombination aus automatisierten Systemen und der Überwachung durch Forscher verfeinert.

Dies verdeutlicht einen wesentlichen Vorteil des maschinellen Lernens in der Cybersicherheit. Für Sicherheitsverantwortliche ist oft weniger entscheidend, ob Malware exakt mit einer zuvor beobachteten Probe übereinstimmt, als vielmehr, ob sie Verhaltensweisen aufweist, die mit böswilligen Aktivitäten in Verbindung stehen.

Was ist maschinelles Lernen?

Maschinelles Lernen hilft Systemen dabei, Muster in Daten zu erkennen und ihre Leistung durch Erfahrung zu verbessern.

Malware-Analyse

KI kommt auch zu Hilfe, wenn Analysten auf unbekannte Dateien stoßen.

ESET LiveGuard Advanced ist ein gutes Beispiel für eine KI-gestützte Cloud-Sandbox. Verdächtige Dateien werden anhand mehrerer unabhängiger Ebenen untersucht, darunter erweiterte Scans, KI-basierte Analysen, Sandbox-Ausführung, Speicherüberprüfung und Verhaltensauswertung. Anstatt die endgültige Entscheidung einem einzigen Modell zu überlassen, tragen mehrere Analyseverfahren zur Beurteilung bei, wodurch die eingereichte Probe in eine von vier Kategorien eingestuft wird: bösartig, hochverdächtig, verdächtig oder unbedenklich.

Dieser Ansatz spiegelt ein wichtiges Prinzip der Cybersicherheit wider: Das Vertrauen steigt, wenn Ergebnisse durch mehr als eine Methode validiert werden.

Das Verhalten von Angreifern verstehen

Die schwierigsten Sicherheitsprobleme betreffen selten nur eine einzige Warnmeldung. Verteidiger müssen oft verstehen, wie Dutzende, Hunderte oder sogar Tausende von Ereignissen zusammenhängen.

Hier kommt die Verhaltensanalyse ins Spiel, da KI verschiedene Muster erkennen kann. Diese können auf den Missbrauch von Anmeldedaten, laterale Bewegung, Privilegienmissbrauch, Ransomware-Aktivitäten oder ähnliche Indizien böswilligen Verhaltens hinweisen. Das Verhalten von Angreifern zu verstehen ist daher der Schlüssel dazu, ein Unternehmen widerstandsfähiger zu machen.

Priorisierung von Untersuchungen

Es ist nicht überraschend, dass Sicherheitsteams häufig mit einer „Alarmmüdigkeit“ zu kämpfen haben. Die Herausforderung besteht darin, zu entscheiden, was zuerst wichtig ist, da dies Auswirkungen auf Ihre Betriebsfähigkeit und Geschäftskontinuität haben kann.

ESET LiveCortex wurde beispielsweise entwickelt, um dieses Problem anzugehen. Es verarbeitet große Mengen kundenspezifischer Ereignisse, reichert diese mit Kontext an, identifiziert aussagekräftige Zusammenhänge und hilft dabei, wichtige Signale vom Hintergrundrauschen zu trennen. Sein Ziel ist es, Sicherheitsverantwortlichen dabei zu helfen, zu erkennen, worauf sie ihre Zeit und Aufmerksamkeit konzentrieren sollten, und gleichzeitig die Reaktion auf Vorfälle zu beschleunigen – denn hier können Minuten den Unterschied zwischen einer schwerwiegenden Kompromittierung und der erfolgreichen Verteidigung eines Systems ausmachen.

Analysten dabei unterstützen, schneller zu arbeiten

Eine effektive Priorisierung spart den Analysten wertvolle Zeit und reduziert den Aufwand für die Untersuchung routinemäßiger Warnmeldungen. Untersuchungen in maschineller Geschwindigkeit durchzuführen, ist eine der neuen Unterstützungsebenen für Sicherheitsteams, die generative KI eingeführt hat.

ESET LiveAI kombiniert große Sprachmodelle mit kuratierten Bedrohungsinformationen und Techniken der „Retrieval-Augmented Generation“. Es kann dabei helfen, Vorfälle zu erklären, Untersuchungen zu unterstützen, Berichte zu erstellen, technische Fragen zu beantworten und mögliche Abhilfemaßnahmen zu empfehlen. Um die Zuverlässigkeit zu verbessern, arbeitet es innerhalb festgelegter Rahmenbedingungen und greift auf unterstützende Informationen zurück, anstatt als uneingeschränkter Chatbot zu fungieren.

Der interessanteste Aspekt ist nicht die Automatisierung an sich, sondern der tatsächliche Mehrwert, der dadurch entsteht, dass Analysten weniger Zeit darauf verwenden müssen, technische Erkenntnisse in Informationen umzuwandeln, die Menschen verstehen und auf deren Grundlage sie handeln können.

Diese praktischen Anwendungen gehen auf einige der größten Herausforderungen ein, denen Sicherheitsteams heute gegenüberstehen. Laut einer Studie von ESET gehören das Schritt halten mit den neuesten Cybersicherheitsbedrohungen (34 %) und das Schritt halten mit neuen Technologien wie KI (32 %) zu den am häufigsten genannten Herausforderungen im Bereich Cybersicherheit für KMU. KI kann dazu beitragen, diesen Druck zu verringern, indem sie die Analyse beschleunigt und den Sicherheitsverantwortlichen hilft, Prioritäten zu setzen.

Wie Angreifer KI bei Cyberangriffen einsetzen

Sowohl Angreifer als auch Verteidiger experimentieren mit KI, und beide streben viele der gleichen wesentlichen Vorteile an: Geschwindigkeit, Umfang und Effizienz.

Tatsächlich schafft KI in den meisten Fällen keine völlig neuen Formen der Cyberkriminalität. Stattdessen macht sie bekannte Angriffe einfacher durchzuführen und schwerer von legitimen Aktivitäten zu unterscheiden.

Ein gutes Beispiel hierfür ist, dass die Wahrnehmung von KI-gesteuerten Bedrohungen nicht immer mit der Realität übereinstimmt. Im „ESET SMB Cyber Readiness Index 2026“ nannten KMU KI-gestützte Malware als ihr größtes Anliegen für das kommende Jahr. Die häufigsten Ursachen für Vorfälle in der Praxis sind jedoch nach wie vor Phishing-Kampagnen, ungepatchte Sicherheitslücken, mangelnde Sicherheitsüberwachung und schwache Passwörter. Dies unterstreicht, wie wichtig es ist, solide Grundlagen der Cybersicherheit zu wahren und sich gleichzeitig auf neue KI-bezogene Risiken vorzubereiten.

Welche KI-Risiken zeichnen sich ab? Erfahren Sie mehr in den KI-Prognosen von ESET.

Phishing

Jahrelang verließen sich Sicherheitsverantwortliche auf schlechte Grammatik, ungewöhnliche Formulierungen und holprige Ausdrucksweisen als Warnzeichen. Moderne generative KI kann innerhalb von Sekunden überzeugende Nachrichten erzeugen, wodurch viele dieser offensichtlichen Indikatoren an Bedeutung verlieren. Das gleiche Muster zeigt sich auch in anderen Bereichen. KI macht Phishing-Kampagnen derzeit skalierbarer und überzeugender, anstatt die bevorzugten Methoden der Angreifer für den Erstzugang grundlegend zu verändern.

Angreifer wollen auch die Entwicklung von Malware vereinfachen. Social-Engineering-Kampagnen lassen sich zudem effektiver auf einzelne Ziele zuschneiden, und Betrugsoperationen können Inhalte in einem Umfang generieren, der noch vor wenigen Jahren einen enormen menschlichen Aufwand erfordert hätte.

Zudem werden Deepfake-Audio- und -Videomaterialien eingesetzt, um Identitätsbetrugs- und Manipulationsversuche zu unterstützen. Darüber hinaus untersuchen Forscher, wie KI zur Aufdeckung von Sicherheitslücken eingesetzt werden kann – eine Fähigkeit, von der sowohl Verteidiger als auch Angreifer profitieren könnten.

Personalisierung

Ein weiteres Problem betrifft die Personalisierung. KI-Systeme können große Mengen öffentlich zugänglicher Informationen verarbeiten und Kriminellen dabei helfen, verwundbare Personen zu identifizieren, Teilnehmer für kriminelle Ökosysteme zu rekrutieren oder auf spezifische Umstände zugeschnittene Betrugsmaschen zu entwickeln.

Kleine Open-Source-Modelle, die auf gestohlenen Daten trainiert wurden, könnten diese Aktivitäten letztendlich noch effektiver machen. Dennoch sollten Sicherheitsverantwortliche die Grundlagen nicht aus den Augen verlieren: Das Erkennen von verdächtigem Verhalten, bösartiger Infrastruktur, betrügerischen Domains, schädlichen Dateien und anderen Anzeichen für eine Kompromittierung ist oft wichtiger, als jede Herausforderung als „KI gegen KI“ darzustellen.

Vorteile von KI in der Cybersicherheit

Das waren die Vorteile für Angreifer. Doch auch den Verteidigern kommt die KI zugute:

Geschwindigkeit: Ein Großteil der Begeisterung rund um KI rührt eher von praktischen operativen Verbesserungen als von bahnbrechenden Entdeckungen her. Wie oben erläutert, ist Geschwindigkeit ein Vorteil. KI kann Analysten dabei helfen, große Mengen an Warnmeldungen schneller zu bearbeiten, wodurch sich der Zeitaufwand für die Entscheidung verringert, welche Vorfälle eine weitere Untersuchung erfordern.
Skalierbarkeit: Ebenso wichtig ist die Skalierbarkeit. Sicherheitsteams sehen sich mit einer wachsenden Kluft zwischen der Anzahl der in modernen Umgebungen generierten Ereignisse und der Anzahl der verfügbaren Mitarbeiter zur Überprüfung dieser Ereignisse konfrontiert. KI hilft dabei, diese Kluft zu verringern.
Kontext: Ein weiterer Vorteil ergibt sich aus dem Kontext. Anstatt isolierte Warnmeldungen darzustellen, können KI-Systeme die Ergebnisse mit zusätzlichen Informationen anreichern und Zusammenhänge hervorheben, die andernfalls verborgen bleiben könnten.
Konsistenz: Auch Konsistenz spielt eine Rolle, da menschliche Analysten ermüden und nicht in der Lage sind, nahtlos in einem solchen Tempo zu arbeiten wie automatisierte Systeme. KI-Systeme können große Datensätze konsistent und in großem Maßstab auswerten, ohne von der Ermüdung betroffen zu sein, die menschliche Analysten beeinträchtigt.
Weniger repetitive Aufgaben: Am wichtigsten ist vielleicht, dass KI Sicherheitsfachkräften hilft, weniger Zeit mit sich wiederholenden Aufgaben zu verbringen. Wenn Routineanalysen weniger manuelle Schritte erfordern, können sich die Sicherheitsverantwortlichen stärker auf die Bedrohungssuche, die Reaktion auf Vorfälle, das Risikomanagement und strategische Projekte konzentrieren.

Unternehmen betrachten diese Effizienzgewinne zunehmend als strategische Vorteile. KMUs zählen die schnellere Abwehr von Angriffen und die Vorhersage von Bedrohungen zu den wertvollsten Anwendungen der KI im Bereich Cybersicherheit. All diese Vorteile sind bedeutend, aber keiner von ihnen liefert garantierte Ergebnisse oder macht Fachwissen überflüssig. Sie ermöglichen lediglich, dieses Fachwissen effektiver einzusetzen.

Risiken und Grenzen der KI in der Cybersicherheit

Die Grenzen der KI sind genauso wichtig zu verstehen wie ihre Vorteile. Der Kernpunkt ist einfach: KI kann Sicherheitsteams dabei helfen, schneller zu arbeiten, benötigt aber dennoch Aufsicht, Validierung und klare Grenzen.

Falschpositive, Falschnegative und Modelldrift

Beginnen wir mit einer der bekanntesten Einschränkungen: Fehlalarme und Auslassungen. Kein KI-Modell wird jemals zu 100 % genau sein. Es wird immer in gewissem Maße zu Fehlern kommen.

Falschpositive identifizieren normale Aktivitäten fälschlicherweise als böswillig und verursachen so unnötigen Arbeitsaufwand für Analysten. Falschnegative verursachen das gegenteilige Problem, indem sie dazu führen, dass gefährliche Aktivitäten übersehen werden. Das Ziel ist es daher, Sicherheitssysteme zu entwickeln, die beides durch Validierung, menschliche Überwachung und zusätzliche Schutzebenen bewältigen.

Auch die Trainingsdaten spielen eine wichtige Rolle. Modelle, die auf unvollständigen, verzerrten oder veralteten Informationen trainiert wurden, liefern schwächere Ergebnisse und erhöhen damit die Anfälligkeit eines Unternehmens gegenüber Bedrohungen. Die Leistungsfähigkeit kann zudem im Laufe der Zeit durch Modelldrift abnehmen, da sich Cybersicherheitsumgebungen, das Verhalten von Angreifern und legitime Geschäftsaktivitäten verändern. Ein heute effektives Modell kann morgen an Wirksamkeit verlieren, wenn es nicht regelmäßig aktualisiert und anhand aktueller Bedrohungen validiert wird.

Manipulation, Transparenz und Datenschutz

Eine weitere Herausforderung stellt die feindliche Manipulation dar. Angreifer untersuchen KI-Systeme aktiv und suchen nach Möglichkeiten, Schwachstellen in deren Verhalten auszunutzen, was die Erkennungsgenauigkeit schwächen und die allgemeine Wirksamkeit der Abwehrmaßnahmen verringern kann.

Auch die Transparenz bleibt ein ständiges Anliegen. Unternehmen müssen verstehen, wie wichtige Schlussfolgerungen zustande kommen, insbesondere wenn Empfehlungen Ermittlungen oder Entscheidungen zur Behebung von Problemen beeinflussen. Ein weiterer Risikofaktor ist unzureichender Datenschutz: Sensible Informationen können offengelegt werden, wenn Unternehmen keine klaren Richtlinien für den Einsatz von KI festlegen.

Kosten- und Governance-Risiken

Kosten stellen eine weitere praktische Einschränkung dar. Der Betrieb autonomer KI-Agenten kann kostspielig sein, da jede Aufgabe wiederholte Modellaufrufe, den Einsatz von Tools und die Ausführung von Workflows auslösen kann. Angreifer könnten zudem versuchen, diese Systeme durch die Zuweisung unmöglicher oder sich endlos wiederholender Aufgaben zu überlasten, was zu einem „Denial-of-Wallet“-Szenario führt, bei dem dem Eigentümer unnötige Betriebskosten entstehen.

Diese Bedenken sind nicht nur theoretischer Natur. Untersuchungen von ESET zeigen, dass 70 % der KMU sehen, dass KI trotz ihrer weit verbreiteten Nutzung zusätzliche Sicherheitsrisiken mit sich bringt. Unternehmen benötigen daher Governance, Aufsicht und Transparenz, um von KI zu profitieren, ohne sich unnötig Cyberbedrohungen auszusetzen.

Datenvergiftung: ein wachsendes Problem

Darüber hinaus gibt auch das „Data Poisoning“ Anlass zu großer Sorge. Es tritt auf, wenn Angreifer Informationen, die zum Trainieren von KI-Modellen verwendet werden, absichtlich manipulieren, um das Verhalten des Modells zu beeinflussen.

Gelangen manipulierte Daten in einen Trainingsprozess, kann das Modell unzutreffende Zusammenhänge erlernen, an Zuverlässigkeit verlieren oder irreführende Ergebnisse liefern. In extremen Fällen könnten Angreifer versuchen, das Modellverhalten so zu beeinflussen, dass es ihren Zielen dient.

Dies ist ein Grund, warum Sicherheitsanbieter großen Wert auf Datenqualität, Validierung und kontinuierliche Überwachung legen. Vertrauenswürdige KI hängt von vertrauenswürdigen Eingaben ab. Dieses Prinzip ist grundlegend für jede effektive KI-Sicherheitsstrategie.

Die allgemeine Lehre geht jedoch über das Thema „Data Poisoning“ hinaus. Unternehmen sollten KI nicht als unfehlbare „Black Box“ betrachten, denn starke Cybersicherheitsprogramme basieren auf Validierung, Transparenz und Gegenprüfung. Diese Prinzipien tragen dazu bei, Risiken zu reduzieren, unabhängig davon, welche KI-Technologie zum Einsatz kommt.

Warum menschliches Fachwissen nach wie vor wichtig ist

Eine nützliche Sichtweise auf KI ist die eines sehr intelligenten, aber wörtlich nehmenden Assistenten. KI als Ersatz für menschliche Entscheidungsträger zu betrachten, ist selten hilfreich.

Wie bereits erwähnt, kann KI mehr Daten verarbeiten als jeder Analyst. So funktioniert fortschrittliche Rechenleistung nun einmal. Sie kann Muster in riesigen Datensätzen erkennen und Vorfälle aufdecken, die Beachtung verdienen. Was jedoch über die Fähigkeiten der Maschine hinausgeht, ist das Verständnis von geschäftlichen Prioritäten, betrieblichen Einschränkungen, Risikotoleranz und organisatorischem Kontext.

Als Sicherheitsverantwortlicher muss man konkurrierende Prioritäten gegeneinander abwägen. Eine gründliche Untersuchung bedeutet, dass man Absicht, Kontext und Auswirkungen berücksichtigen muss. Das ist um einiges schwieriger, wenn man bedenkt, dass Incident-Responder regelmäßig auf Situationen stoßen, die außerhalb vordefinierter Regeln liegen. Diese Aktivitäten hängen vom menschlichen Urteilsvermögen ab, und Menschen sind nach wie vor weitaus besser darin, zu bewerten und zu entscheiden, was für welche Organisation am besten ist.

Die Philosophie, dass die stärksten Cybersicherheitsstrategien KI zur Unterstützung von Experten einsetzen, zieht sich durch den gesamten modernen Sicherheitsbetrieb. Daher ist es nicht überraschend, dass die Zukunft der Cybersicherheit nicht in einem Gegensatz zwischen menschlicher Expertise und KI liegt, sondern in menschlicher Expertise, die durch KI verstärkt wird.

Warum KI-Sicherheit wichtig ist

Da Unternehmen KI in großem Maßstab einsetzen, stehen sie vor einer neuen Herausforderung: dem Schutz von KI-Systemen vor Missbrauch, Zweckentfremdung und Datenlecks. Die Ursachen sind:

Schatten-KI

Viele Unternehmen haben bereits mit dem zu tun, was gemeinhin als „Shadow-KI“ bezeichnet wird. Dabei nutzen Mitarbeiter nicht autorisierte Tools außerhalb festgelegter Governance-Prozesse. Dies birgt größere Risiken, da KI-Tools sensible Daten erfassen, aus Benutzereingaben lernen und Ergebnisse generieren können, die schwer vorherzusagen oder zu überprüfen sind.

Für Unternehmen kann dies die versehentliche Offenlegung vertraulicher Informationen, Bedenken hinsichtlich der DSGVO und des Datenschutzes, den Verlust von geistigem Eigentum, unzuverlässige Prozesse oder Code sowie eine allmähliche Verringerung der menschlichen Verantwortlichkeit bedeuten, wenn sich Mitarbeiter zu stark auf KI-generierte Ergebnisse verlassen.

Untersuchungen von ESET zeigen, dass 40 % der KMU weltweit über keine Richtlinie verfügen, die die Nutzung von KI-Anwendungen außerhalb genehmigter Prozesse oder Plattformen einschränkt. Da Mitarbeiter KI-Tools zunehmend in ihre tägliche Arbeit integrieren, erhöht das Fehlen klarer Governance-Regeln das Risiko von „Shadow AI“, Datenlecks und Compliance-Problemen.

Datenlecks

Ein weiteres Problem ist der sogenannte „Prompt-Leak“. Dieser Begriff wird zwar häufig verwendet, um zu beschreiben, wie Angreifer eine KI dazu bringen, ihre internen Systemanweisungen preiszugeben. Die Beschreibung wird aber auch häufig im Zusammenhang mit KI-Datenlecks verwendet, bei denen Mitarbeiter versehentlich sensible Unternehmensdaten in externe, öffentliche Verbraucher-Modelle einfügen.

Vertrauliche Informationen, die in KI-Systeme eingegeben werden, können dadurch an Parteien gelangen, die niemals Zugriff darauf haben sollten. Das bekannteste Beispiel aus der Praxis ereignete sich, als Ingenieure der Halbleitersparte von Samsung ChatGPT zur Optimierung ihrer Arbeitsabläufe nutzten, was zunächst zu einem internen Verbot des Dienstes führte und das Unternehmen anschließend dazu veranlasste, einen eigenen Chatbot zu entwickeln, um solche Vorfälle zu verhindern.

Zunehmende Komplexität

Der Aufstieg von KI-Agenten bringt zusätzliche Komplexität mit sich. Diese Systeme stützen sich zunehmend auf herunterladbare Skills, externe Integrationen, Repositories von Drittanbietern und autonome Arbeitsabläufe. Der Wandel von Frage-Antwort-basierten Chatbots hin zu autonomen KI-Agenten verwandelt die Risikolandschaft von einem Problem des Datenlecks in ein Problem der Ausführung und Kontrolle.

Während Chatbots lediglich Text verarbeiten, verfügen Agenten über Handlungsfähigkeit: die Fähigkeit, zu planen, Entscheidungen zu treffen, Tools zu nutzen und Aktionen über Unternehmensnetzwerke hinweg auszuführen. Diese Agenten vergrößern schlichtweg die Angriffsfläche.

Der „AI Skill Checker“ von ESET wurde entwickelt, um diesem neu auftretenden Risiko zu begegnen. Die Technologie analysiert Fähigkeiten vor ihrer Ausführung, bewertet ihr Verhalten, untersucht Payloads und externe Ressourcen und wiederholt die Bewertungen, sobald sich die Fähigkeiten ändern. Diese wiederholte Validierung ist wichtig, da sich eine Fähigkeit, die heute harmlos erscheint, nach einem Update ganz anders verhalten könnte.

Im Rahmen der laufenden KI-Sicherheitsforschung von ESET hat das Unternehmen bereits rund 1,1 Millionen Skills analysiert und Tausende identifiziert, die einer weiteren Untersuchung bedurften, darunter viele, die als verdächtig oder bösartig eingestuft wurden.

Governance und Überwachung

Diese Erkenntnisse unterstreichen eine wichtige Tatsache: Unternehmen müssen KI-Umgebungen auf ähnliche Weise absichern wie Endgeräte, Netzwerke, Cloud-Workloads und Identitäten. Tatsache ist, dass KI zu einer Infrastrukturebene mit Ausführungsrechten geworden ist, und genau das macht Governance, Aufsicht und Transparenz so wichtig.

Governance liefert die Regeln, Richtlinien und rechtlichen Rahmenbedingungen, die festlegen, wie KI im gesamten Unternehmen entwickelt, beschafft und genutzt werden darf. Die Aufsicht schließt die Lücke zwischen rohen technischen Daten und menschlicher Verantwortlichkeit. Sie stellt sicher, dass KI-Systeme, auch wenn sie immer unabhängiger werden, weiterhin an die Sicherheitsgrenzen des Unternehmens gebunden bleiben. Ein Mangel an Transparenz bedeutet einen Mangel an Kontrolle, und bei KI wird dieses Risiko noch verstärkt, da KI-Datenverkehr normales Web- und API-Verhalten nachahmt.

Die Bedeutung von Governance wird mit zunehmender KI-Nutzung immer deutlicher. Der „ESET SMB Cyber Readiness Index 2026“ ergab, dass Unternehmen mit einem höheren Grad an KI-Nutzung im Allgemeinen eher dazu neigen, KI-Richtlinien zu implementieren, die darauf abzielen, nicht genehmigte KI-Nutzung und „Shadow-AI“-Praktiken einzuschränken.

KI-Beobachtbarkeit

Als Folge dessen entstehen Konzepte zur KI-Beobachtbarkeit und zur Control-Plane als Antwort auf diese Anforderungen. Unternehmen möchten nachvollziehen, wo KI eingesetzt wird, welche Systeme Zugriff auf sensible Daten haben und ob diese Interaktionen mit internen Richtlinien übereinstimmen.

Während sich die KI-Beobachtbarkeit speziell auf die Identifizierung und Überwachung der KI-Nutzung konzentriert, sollten Unternehmen auch agentenbasierte Funktionen in Betracht ziehen, die die gesamte Netzwerkumgebung bewerten und selbst versteckte oder schwer zu erkennende Ressourcen aufdecken können.

Um diesen wachsenden Herausforderungen zu begegnen, ermöglicht die ESET PROTECT-Plattform KI-Beobachtbarkeit und wird um eine KI-gestützte Erkennung von Systemressourcen erweitert.

So bewerten Sie KI-Cybersicherheitslösungen

Der KI-Markt ist voll von ehrgeizigen Versprechungen. Während einige glaubwürdig sind, lassen sich andere nur schwer überprüfen. Unternehmen, die KI-gestützte Sicherheitstechnologien bewerten, sollten mit einer einfachen Frage beginnen: Wo genau wird KI eingesetzt? Die Antwort sollte so konkret wie möglich sein.

Ein effektives Bewertungsrahmenwerk sollte Folgendes umfassen:

Anbieter sollten erläutern, was ihre KI-Komponente leistet, wie die Ergebnisse validiert werden und wie die Technologie zu messbaren Ergebnissen beiträgt.
Fragen Sie danach, wie mit „Halluzinationen“ umgegangen wird, ob sich die Ergebnisse auf Belege zurückführen lassen und inwieweit menschliche Kontrolle weiterhin Teil des Arbeitsablaufs ist.
Stellen Sie sicher, dass Sie verstehen, welche Informationen erfasst werden, wo sie verarbeitet werden und wie der Datenschutz gewährleistet wird.
Berücksichtigen Sie die operative Eignung, denn selbst eine beeindruckende KI-Fähigkeit bietet nur begrenzten Nutzen, wenn sie bestehende Arbeitsabläufe im Security Operations Center (SOC) stört oder zusätzliche Komplexität verursacht.
Prüfen Sie, wie die Lösung autonome Arbeitsabläufe steuert, Plug-in-Funktionen von Drittanbietern handhabt und den Schreibzugriff auf die API einschränkt, um unbefugte Netzwerkaktionen zu verhindern.
Prüfen Sie, wie Anbieter ihre Tools gegen direkte oder indirekte Prompt-Injektionen, Data Poisoning und Exfiltration von System-Prompts schützen.
Prüfen Sie, um welches zugrunde liegende Modell es sich handelt: Handelt es sich um ein vollständig maßgeschneidertes Modell, das sich im Besitz des Anbieters befindet, oder stützt es sich auf Modelle von Drittanbietern oder Open-Weight-Modelle, die unerwünschte rechtliche, betriebliche oder sicherheitsrelevante Abhängigkeiten mit sich bringen könnten; Ermitteln Sie außerdem, wie oft das Modell aktualisiert wird, wie Open-Source-Abhängigkeiten und Orchestrierungs-Frameworks überprüft werden und ob Änderungen neue Logik- oder Compliance-Risiken mit sich bringen.
Stellen Sie sicher, dass die Lösung ein dauerhaftes, manipulationssicheres Protokoll aller Prompt- und Antwort-Interaktionen führt, damit Sicherheitsteams Ereignisse im Rahmen einer forensischen Untersuchung von Sicherheitsverletzungen rekonstruieren können.

Generell sollte Transparenz mehr zählen als Hype und Beweise mehr als Versprechungen. Und jeder Anbieter, der KI als vollständig autonomen Ersatz für Sicherheitsexperten präsentiert, verdient eine sorgfältige Prüfung.

Fazit

KI verändert die Cybersicherheit rasant, jedoch nicht in der Weise, wie viele Schlagzeilen vermuten lassen. Während sie Verteidigern hilft, Bedrohungen zu erkennen, Untersuchungen zu priorisieren und schneller zu reagieren, nutzen Angreifer dieselbe Technologie, um Phishing, Social Engineering und Betrug in großem Maßstab zu betreiben.

Die effektivsten Sicherheitsstrategien berücksichtigen beide Realitäten: Sie nutzen die Stärken der KI und gehen gleichzeitig deren Risiken durch Governance, Transparenz und menschliche Aufsicht an. Letztendlich ist KI kein Ersatz für Cybersicherheitsexperten. Sie ist ein Kraftmultiplikator, der qualifizierten Teams hilft, schnellere und fundiertere Entscheidungen zu treffen, während gleichzeitig die soliden Sicherheitsgrundlagen gewahrt bleiben, die weiterhin den Großteil der Angriffe abwehren.

FAQ: KI in der Cybersicherheit

Was versteht man unter KI in der Cybersicherheit?

KI in der Cybersicherheit bezieht sich auf den Einsatz von maschinellem Lernen und verwandten Technologien, um Sicherheitsteams dabei zu unterstützen, Bedrohungen zu erkennen, Verhaltensmuster zu analysieren, Warnmeldungen zu priorisieren und Untersuchungen effizienter zu gestalten.

Was sind Beispiele für KI in der Cybersicherheit?

Zu den gängigen Beispielen gehören KI-gestützte Bedrohungserkennung, Malware-Analyse, Priorisierung von Warnmeldungen, Verhaltensanalysen und Unterstützung bei der Untersuchung. Im Portfolio von ESET sind dies beispielsweise ESET DNA Detections, ESET LiveGuard Advanced, ESET LiveCortex und ESET LiveAI.

Wie nutzen Angreifer KI?

Angreifer nutzen KI, um Phishing-, Social-Engineering-, Betrugs- und Scam-Kampagnen überzeugender und skalierbarer zu gestalten. In vielen Fällen schafft KI keine völlig neuen Angriffe, sondern macht bekannte Angriffe schneller und schwerer zu erkennen.

Was sind die Vorteile von KI in der Cybersicherheit?

KI kann Sicherheitsteams dabei helfen, große Datenmengen zu verarbeiten, sich wiederholende Arbeiten zu reduzieren, Untersuchungen zu priorisieren, Warnmeldungen mit Kontext zu versehen und Analysten mehr Zeit zu geben, sich auf wichtigere Sicherheitsentscheidungen zu konzentrieren.

Welche Risiken birgt KI in der Cybersicherheit?

Zu den Risiken zählen ungenaue Ergebnisse, mangelhafte Trainingsdaten, Modelldrift, feindliche Manipulation, eingeschränkte Transparenz, Datenvergiftung, die Offenlegung sensibler Daten sowie eine übermäßige Abhängigkeit von Automatisierung ohne menschliche Aufsicht.

Kann KI Cybersicherheitsexperten ersetzen?

Nein. KI kann Sicherheitsverantwortlichen helfen, schneller und effizienter zu arbeiten, doch Cybersicherheit hängt nach wie vor vom menschlichen Urteilsvermögen, dem geschäftlichen Kontext, der Rechenschaftspflicht und der Entscheidungsfindung ab.

Was ist der Unterschied zwischen KI-Cybersicherheit und KI-Sicherheit?

KI-Cybersicherheit bedeutet in der Regel den Einsatz von KI zur Verbesserung der Bedrohungserkennung und der Sicherheitsabläufe. KI-Sicherheit bedeutet den Schutz der KI-Systeme selbst, einschließlich Modellen, Eingabeaufforderungen, Agenten, Integrationen, Daten und Benutzerinteraktionen.