Das Wichtigste auf einen Blick

  • Die meisten gängigen KI-Chatbots – z. B. ChatGPT, Claude, Copilot, Gemini – können für alltägliche Aufgaben bedenkenlos genutzt werden
  • Das Risiko verlagert sich nun auf KI-Agenten sowie deren Fähigkeiten und Plugins. Diese kleinen Erweiterungen ermöglichen es KI-Agenten, Dateien herunterzuladen, Code auszuführen und potenziell böswillige Aktionen durchzuführen, ohne dass der Nutzer dies überwacht oder zustimmt
  • ESET Research hat zwischen März und Mai 2026 rund 800.000 agentische Skills analysiert und dabei über 25.000 verdächtige Fälle entdeckt, bei denen bereits eine geringfügige Änderung einen Agenten bösartig machen könnte
  • Die drei Gewohnheiten, die die meisten Nutzer schützen: die Quelle überprüfen, Berechtigungen einschränken und Sicherheitssoftware verwenden, die KI-Aktivitäten überwacht
  • Mit dem ESET Skills Checker können Sie eine Funktion vor der Installation kostenlos testen

Sind KI-Agenten tatsächlich sicher? Die kurze Antwort

Im Gegensatz zu herkömmlichen Chatbots generieren oder fassen KI-Agenten nicht nur Inhalte zusammen. Sie sind darauf ausgelegt, autonom zu arbeiten und Aufgaben im Auftrag ihres Nutzers zu erledigen. Selbst wenn der Agent nominell sicher ist, könnte er schädliche Dateien herunterladen und ausführen, unsichere Skripte ausführen oder eine Verbindung zu potenziell schädlichen Quellen herstellen. All dies könnte im Hintergrund geschehen, ohne dass Sie davon wissen oder Ihre Zustimmung dazu gegeben haben.

Was KI-Agenten tatsächlich tun, während Sie sie nutzen

So verändert sich die KI-Landschaft.

Von Chatbots zu KI-Agenten

Chatbots sind darauf ausgelegt, komplexe Anfragen auf eine benutzergesteuerte, reaktive Weise zu verstehen. Agenten fungieren de facto als persönliche Assistenten, die selbstständig und proaktiv arbeiten, um noch komplexere Aufgaben zu erledigen. Dazu können das Durchsuchen des Internets, das Lesen von Dateien und Webseiten, das Einloggen in Ihre Konten und in manchen Fällen sogar das Ausführen von Zahlungen gehören – wobei sie dabei „überlegen“ und „handeln“.

Was ist ein „KI-Skill“ oder „KI-Plugin“?

KI-Skills ähneln Browser-Plugins: kleine Pakete aus Anweisungen, Daten und Code, manchmal aber auch Tools, die die Funktionalität Ihres KI-Agenten erweitern. Doch genau wie manche Browser-Plugins können auch KI-Skills kurz davor stehen, böswillige Aktionen auszuführen oder mit Fallstricken versehen sein, die böse Überraschungen verbergen.

Wo das Risiko aktuell liegt

Wenn Sie KI-Agenten ausprobieren möchten, sollten Sie zuerst die Risiken verstehen. Diese sind längst nicht mehr theoretischer Natur, wie diese Beispiele zeigen:

Bösartige KI-Skills und Plugins

Seit März 2026 hat ESET über 800.000 KI-Skills gescannt und dabei über 25.000 als verdächtig sowie mehr als 2.500 als bösartig eingestuft. Einige der offensichtlichsten Beispiele waren darauf ausgelegt, Infostealer-Malware auf die Geräte der Nutzer herunterzuladen, mit dem Ziel, geheime Daten wie API-Schlüssel und Passwörter abzugreifen oder Zahlungsinformationen für Krypto- und Banking-Anwendungen zu stehlen. Andere enthielten Trojaner (versteckte Malware) und Backdoors, die darauf ausgelegt waren, Angreifern unbemerkt Zugriff auf die Systeme der Opfer zu verschaffen.

Eine separate Untersuchung¹ vom Februar ergab, dass über 800 bösartige Skills auf dem ClawHub-Marktplatz gelistet waren. Diese enthielten ebenfalls Infostealer sowie Malware zum Diebstahl von Kryptowährungen und Reverse-Shells, die es Hackern ermöglichen, die Rechner ihrer Opfer zu kapern.

Gefälschte Browser-Erweiterungen für KI-Assistenten

Hacker haben es nicht nur auf KI-Skills abgesehen, sondern nutzen KI auch als Tarnung in bereits bekannten Umgebungen, wie beispielsweise Browser-Erweiterungen. Microsoft deckte eine groß angelegte Kampagne auf, bei der schädliche Erweiterungen sich als legitime KI-Assistenten ausgaben. Sie waren darauf ausgelegt, Chat-Verläufe von Nutzern abzugreifen, die sensible Informationen wie Anmeldedaten enthalten könnten. Allein bei dieser Kampagne verzeichnete Microsoft fast eine Million Downloads.

Prompt-Injection

Eine der schwerwiegendsten Bedrohungen für GenAI und KI-Agenten ist die Prompt-Injection. Sie funktioniert auf zwei Arten. Bei der direkten Prompt-Injection geben Angreifer Befehle in ein LLM ein, um es dazu zu bringen, seine integrierten Sicherheitsvorkehrungen zu umgehen. Für KI-Agenten ist jedoch die indirekte Prompt-Injection relevanter. Bösartige Anweisungen werden in Webseiten, Beiträgen, Code oder anderen Inhalten versteckt. Wenn ein Agent mit diesen Inhalten interagiert, wird er dazu manipuliert, böswillige Aktivitäten auszuführen.

KI-generierte Malware und Ransomware

KI kann auch dazu genutzt werden, bösartige Skripte oder Teile von Malware und Ransomware in Echtzeit zu generieren. Eine der ersten Ransomware-Varianten dieser Art war „PromptLock“, das von ESET entdeckt wurde. Streng genommen stellt dies jedoch keine Bedrohung für Ihre KI-Agenten dar.

So erkennen Sie, ob ein KI-Agent oder ein Plugin sicher ist

Beachten Sie Folgendes, um KI-Sicherheitsrisiken zu minimieren:

  • Welche Berechtigungen werden angefordert? Seien Sie vorsichtig bei allem, was mehr Berechtigungen zu benötigen scheint, als eigentlich nötig wäre
  • Hat der Autor bereits andere Skills/Plugins mit Bewertungen veröffentlicht? Diese können auf mögliche Sicherheitsprobleme hinweisen
  • Ist das Repository aktiv, mit aktuellen Updates und einem reaktionsschnellen Entwickler? Wenn ja, ist das ein gutes Zeichen dafür, dass versucht wird, neue Sicherheitsprobleme im Griff zu behalten. Seien Sie jedoch vorsichtig, denn dies ist nicht zu 100 % sicher (beispielsweise könnte ein Angreifer reaktionsschnell sein, um Vertrauen aufzubauen, und in der Lage sein, Skills vom böswilligen in den nicht-böswilligen Modus umzuschalten)
  • Muss das Plugin während der Installation unbekannte Skripte ausführen oder auf verdächtige Domains/Ressourcen zugreifen? Dies sollte sofort ein Warnsignal sein.
  • Wurde das Skill gescannt – z. B. mit dem ESET AI Skills Checker – und wie lautete das Ergebnis?
  • Ist Ihre Cybersicherheitssoftware (oder die ESET AI Security-Funktionen im Rahmen des ESET HOME Security-Angebots ) so eingerichtet, dass sie KI-Aktivitäten überwacht?
  • Überwachen Sie Ihren Agenten/Ihr Plugin nach der Bereitstellung, falls es sein Verhalten unbemerkt (und böswillig) ändert
  • Halten Sie Ihre Agent-Software stets auf dem neuesten Stand, damit Sie die sicherste Version nutzen

So schützt ESET Sie vor unsicheren KI-Agenten

ESET verfügt über mehrere Funktionen, die Sie vor Bedrohungen durch KI-Agenten schützen sollen. Dazu gehören:

ESET AI Security – automatischer Schutz auf Ihrem Gerät

  • Überwacht das Verhalten und prüft, was Ihr KI-Agent herunterlädt und mit welchen Diensten er sich verbindet (KI-Verhaltensüberwachung)
  • Scannt KI-bezogene Dateien und Komponenten, überprüft URLs und verfolgt die gesamte Download-Kette, um versteckte mehrstufige Angriffe aufzudecken (AI Agent Security)
  • Bietet eine zusätzliche Schutzebene, wenn Sie mit großen Sprachmodellen wie ChatGPT interagieren. Die Funktion überprüft die in KI-Antworten enthaltenen URLs und warnt Sie, wenn diese zu Phishing, schädlichen oder potenziell unerwünschten Inhalten führen. Außerdem scannt sie von der KI generierte Skripte, um zu verhindern, dass Sie schädlichen Code auf Ihrem Gerät ausführen (AI Conversation Security)
  • Nutzt ESET LiveGuard, um schädliche Aktivitäten automatisch zu blockieren, ohne dass ein Eingreifen des Benutzers erforderlich ist

ESET AI Skills Checker – ein kostenloses Tool, das Sie sofort ausprobieren können

  • Ein-Klick-Scan der gesamten Skill-Datei, einschließlich aller Befehle, Skripte, Codeblöcke und Konfigurationen
  • Überprüft jede URL, auf die das Skill verweist, anhand der ESET-Bedrohungsdatenbanken und einer Echtzeitanalyse
  • Simuliert das KI-Skill in einer Sandbox, um dessen Verhalten zu beobachten
  • Ist in die ESET-Technologie integriert, um Bedrohungen auch dann zu erkennen, wenn Sie einen neuen Skill nicht über den Skill Checker ausgeführt haben

Picture_AI Skills Checker

Hinweis: Der ESET AI Skills Checker ist ein Test- und Analyse-Tool, das speziell für die Überprüfung von KI-Skills entwickelt wurde. Für einen stets aktiven, automatisierten Schutz wählen Sie die ESET AI Security-Funktionen, die in den entsprechenden ESET Home Security-Produkten enthalten sind.

Home Security banner

Einblicke von ESET-Experten

„Anstatt KI-Skills als komplexe Eingabeaufforderungen zu behandeln, sollten wir sie wie Software betrachten. Nutzer sollten sich auf robuste Sicherheitstools – wie ESET Home Security – verlassen, die nach Anzeichen potenziell schädlichen Verhaltens suchen und diese erkennen können. Ein weiterer zu prüfender Bereich sind die Berechtigungen, die jede Skill anfordert. Wenn die Skill mehr Zugriff verlangt, als sie scheinbar benötigt, sollte dies als Warnsignal gewertet werden.

Es ist außerdem wichtig zu überprüfen, wer das Skill entwickelt hat, und, soweit möglich, Optionen von bekannten und verifizierten Entwicklern zu wählen. Nutzer sollten Community-Bewertungen, Repository-Issues und anderes öffentliches Feedback auf mögliche Bedenken hin prüfen. Und wie bei jeder anderen Software ist es entscheidend, die KI-Plattform und die Agent-Software auf dem neuesten Stand zu halten, um das Risiko einer Ausnutzung bekannter Schwachstellen zu verringern.“

- Ondrej Kubovič, Spezialist für Security Awareness

Sicherheitsgewohnheiten, die für alle funktionieren

Schützen Sie sich vor böswilligen KI-Agenten und/oder Skills, indem Sie diese Tipps befolgen:

  • Überprüfen Sie die Berechtigungen, bevor Sie eine Funktion oder ein Plugin installieren
  • Halten Sie Ihre KI-Tools, Browser und Sicherheitssoftware auf dem neuesten Stand
  • Verwenden Sie die Multi-Faktor-Authentifizierung für Ihre wichtigsten Konten
  • Bringen Sie Kindern und weniger technisch versierten Familienmitgliedern die Gewohnheitbei, sich stets drei Fragen zu stellen: Wer hat das entwickelt? Was will es? Kann ich dem vertrauen?
  • Wenn Ihr KI-Agent etwas Ungewöhnliches, Unerlaubtes oder Ungeplantes tut, schalten Sie ihn aus
  • Behandeln Sie Ihre Agenten wie Fremde – teilen Sie nichts Privates oder Sensibles mit ihnen

Fazit

In nur wenigen Jahren ist KI für viele Privatanwender zu einem unverzichtbaren Werkzeug geworden. Diese Tatsache ist auch Cyberkriminellen nicht entgangen, die eine Reihe von Mechanismen entwickelt haben, um die KI, die Sie täglich nutzen, als Kanal für Malware, Datendiebstahl und mehr zu missbrauchen. Die Risiken sind heute wohl am größten im aufstrebenden Bereich der KI-Agenten. Doch obwohl Chatbots sicherer sind als früher, wäre es unklug, in Ihrer Wachsamkeit nachzulassen. Glücklicherweise entwickeln sich bewährte Vorgehensweisen, die Ihre Sicherheit gewährleisten. Kombinieren Sie diese mit Sicherheitsfunktionen von vertrauenswürdigen Anbietern wie ESET, dann sollten Sie gut aufgestellt sein.

Häufig gestellte Fragen

Können KI-Agenten Ihre Daten stehlen?

Seriöse KI-Chatbots „stehlen“ Ihre Daten nicht, auch wenn sie Ihre Eingaben möglicherweise speichern und an andere weitergeben. Das unterscheidet sie von bösartigen KI-Agenten und -Tools – beispielsweise gefälschten KI-Browsererweiterungen, bösartigen Agenten oder mit Fallen versehenen Plugins, die darauf ausgelegt sind, Chat-Verläufe, Passwörter oder Sitzungs-Cookies abzugreifen. Im ersten Fall handelt es sich um eine Datenschutzeinstellung, die Sie verwalten müssen. Im zweiten Fall handelt es sich um eine Sicherheitsbedrohung, die erkannt und blockiert werden muss.

Sind KI-Plugins und KI-Skills sicher zu installieren?

Einige sind es, viele jedoch nicht. Anfang 2026 hat ESET Research rund 800.000 KI-Agenten-Skills gescannt und dabei über 25.000 als verdächtig sowie mehr als 2.500 als eindeutig bösartig eingestuft. Bevor Sie ein Skill installieren, sollten Sie den Entwickler überprüfen, lesen, welche Berechtigungen es anfordert, und – falls Sie eine kostenlose zweite Meinung zu einem neuen Skill wünschen – es mit dem ESET AI Skills Checker scannen.

Kann ein KI-Agent Malware auf meinem Computer installieren?

Ja, wenn Sie oder Ihr KI-Agent eine bösartige Skill installieren. In der Praxis lassen sich diese Bedrohungen mindern, indem Sie sich an seriöse KI-Tools halten, bei Plugin-Berechtigungen vorsichtig sind und Cybersicherheitssoftware einsetzen, die KI-Aktivitäten überwacht (zum Beispiel die in ESET Home Security enthaltenenESET AI Security-Funktionen).

Was ist indirekte Prompt-Injektion, und sollte ich mir darüber Sorgen machen?

Bei einer indirekten Prompt-Injektion versteckt jemand Anweisungen in Inhalten, die eine KI liest – z. B. auf einer Webseite, in einem Dokument, in einer E-Mail usw. In diesem Fall befolgt die KI diese Anweisungen anstelle Ihrer eigenen. Als normaler Nutzer müssen Sie kein Experte auf diesem Gebiet werden. Es ist jedoch ein guter Grund, Sicherheitssoftware einzusetzen, um die Aktivitäten Ihrer KI-Agenten zu überwachen.

Woran erkenne ich, ob eine KI-Funktion vertrauenswürdig ist?

Prüfen Sie drei Dinge: Wer hat sie entwickelt, auf welche Zugriffsrechte beansprucht sie und haben andere Nutzer sie tatsächlich verwendet und bestätigt, dass sie funktioniert? Angemessene Zugriffsrechte und ein einsehbarer Bewertungsverlauf sind ein guter Anfang. Im Zweifelsfall sollten Sie die Funktion jedoch vor der Installation mit dem ESET AI Skills Checker überprüfen.

Weitere Quellen:

1) Koi AI. (o. J.). ClawHavoc 3.4.1: Schädliche „ClawedBot“-Skills, die von dem Bot entdeckt wurden, auf den sie abzielten. Koi AI Blog. https://www.koi.ai/blog/clawhavoc-341-malicious-clawedbot-skills-found-by-the-bot-they-were-targeting