TrojAI von A10 Networks
Sichern Sie jeden KI-Agenten, jede Anwendung und jedes Modell – von der Erstellung bis zur Laufzeit
Eine Plattform für KI-Sicherheit in Unternehmen
Gehen Sie KI-Risiken entschlossen an. Testen Sie Ihre Modelle vor der Auslieferung und schützen Sie Ihre Agenten und Anwendungen, sobald diese in Betrieb sind.
Überall bereitstellen
Behalten Sie die volle Kontrolle, Privatsphäre und Sicherheit über Ihre Modelle, Agenten und Daten – dank einer eigenständigen Bereitstellung vor Ort oder in Ihrer eigenen Cloud.
Schaffung von Leitplanken für Agenten
Erfassen Sie alle Agenten und MCP-Server, steuern Sie die Nutzung von Tools und testen Sie Agenten mithilfe von agentengesteuerten Red-Team-Szenarien – von der Entwicklung bis zur Laufzeit.
Unternehmensführung und Compliance
Ordnen Sie jeden Befund den OWASP-, MITRE- und NIST-Standards zu und leiten Sie die gewonnenen Erkenntnisse in Ihre bestehenden SIEM-, SOAR- und Ticket-Plattformen weiter.
Plattformkomponenten
TrojAI Defend
Laufzeitschutz für KI-Agenten und -Anwendungen
Defend verhindert in Echtzeit unberechtigte Eingriffe, Jailbreaking, Datenlecks und schädliche Inhalte, setzt Sicherheitsrichtlinien für alle KI-Agenten und Anwendungen im Produktivbetrieb durch und überträgt Erkenntnisse in Ihre bestehenden SIEM-, SOAR- und Ticketing-Plattformen.
TrojAI Detect
Agentengesteuertes Red-Team-Testing zur Aufdeckung von KI-Risiken
Detect führt kontinuierliche, agentengesteuerte Red-Team-Tests an Ihren KI-Modellen und Agenten durch und simuliert dabei Ein- und Mehrrunden-Angriffe sowie agentengesteuerte Angriffe, um unsicheres Verhalten vor der Bereitstellung aufzudecken. Die Ergebnisse werden den OWASP-, MITRE- und NIST-Rahmenwerken zugeordnet.
TrojAI Defend für MCP
Alle MCP-Server, -Tools und -Agenten erkennen und verwalten
Erkennt nicht autorisierte oder falsch konfigurierte MCP-Server und -Tools, setzt Richtlinien für die Kommunikation zwischen Agenten, Modellen und Servern durch und blockiert bösartigen oder verdächtigen MCP-Datenverkehr in Echtzeit.
Hauptmerkmale
Schutz vor böswilligen Angriffen
Schutz vor direkten und indirekten Prompt-Injection-Angriffen, die darauf abzielen, das Verhalten von Modellen oder Agenten zu manipulieren, sowie vor Jailbreaking-Angriffen, bei denen Sicherheitsvorkehrungen, Richtlinien oder Kontrollen umgangen werden, um unzulässige oder nicht autorisierte Ausgaben zu erzeugen, und vor Datenlecks, durch die sensible oder vertrauliche Daten über Eingaben, Ausgaben oder verbundene Systeme offengelegt werden.
Adversarische Tests in großem Maßstab
Nutzen Sie Tausende von sofort einsatzbereiten Angriffen, Manipulationen und Szenarien für adversarische Tests oder beschleunigen Sie Ihre Tests mithilfe der eigens entwickelten, fein abgestimmten adversarischen Modelle und benutzerdefinierten Datensätze von TrojAI.
Adaptives Lernen
Den Gesprächsverlauf, das Gedächtnis und den Kontext über mehrstufige Interaktionen hinweg beibehalten, um zu simulieren, wie sich echte Angreifer im Laufe der Zeit anpassen.
Giftige und anstößige Inhalte blockieren
Reinigen Sie Eingabeaufforderungen und Antworten an KI-Agenten, Anwendungen und Modelle, um sicherzustellen, dass die Interaktionen sicher bleiben und den Unternehmensstandards entsprechen.
Sicherheitsrichtlinien in Echtzeit durchsetzen
Sichern Sie jeden Anwendungsfall mit voreingestellten oder individuell angepassten Richtlinien, die auf einer Regel-Engine der Enterprise-Klasse basieren.
Entdecken Sie das Verhalten von KI-Agenten
Analysieren Sie die vollständigen Ausführungsabläufe von KI-Agenten hinsichtlich Tool-Nutzung, Speicherzugriff und Datenabruf.
Risiken priorisieren und mindern
Priorisieren Sie Risiken anhand ihres Schweregrads, um Bedrohungen einzudämmen, das Risiko für das Unternehmen zu verringern und sich vor finanziellen Einbußen und Reputationsschäden zu schützen.
In bestehende Sicherheitsabläufe integrieren
Leiten Sie KI-Sicherheitserkenntnisse in SIEM-, SOAR- und Ticket-Plattformen weiter, um die Transparenz zu verbessern, die Reaktionszeiten zu verkürzen und KI-Sicherheit in großem Maßstab zu implementieren.
Häufig gestellte Fragen
Ist Ihre Frage nicht dabei? Wenden Sie sich an einen Produktexperten, um Antworten zu erhalten.
Eine KI-Firewall ist eine Sicherheitsschicht zur Laufzeit, die Eingabeaufforderungen und Antworten zwischen Benutzern und KI-Agenten oder -Anwendungen überprüft und filtert und so das Einschleusen von Eingabeaufforderungen, Jailbreaking, schädliche Inhalte und Datenlecks in Echtzeit verhindert.
Beim AI-Red-Teaming werden KI-Modelle vor ihrer Bereitstellung proaktiv und danach kontinuierlich getestet, um Schwachstellen wie Prompt-Injection, Jailbreaking und Datenlecks aufzudecken. Dabei werden realistische, böswillige Angriffe in großem Maßstab simuliert, um Risiken zu identifizieren, bevor die Modelle in Betrieb genommen werden.
KI-Agenten führen autonome Aktionen durch, nutzen Tools und behalten bei mehrstufigen Interaktionen Informationen im Gedächtnis – wodurch Risiken entstehen, auf deren Erkennung herkömmliche Sicherheitstools nicht ausgelegt sind. TrojAI Defend bietet Einblick in die Ausführung von Agenten, während TrojAI Detect Agenten mit adaptiven, mehrstufigen Angriffen einem Stresstest unterzieht.
Beim adversarischen Testen werden KI-Modelle Tausenden von Angriffsszenarien und Manipulationen ausgesetzt, um Schwachstellen aufzudecken, bevor echte Angreifer diese ausnutzen können. TrojAI Detect automatisiert diesen Prozess in großem Maßstab mithilfe proprietärer, feinabgestimmter adversarischer Modelle und maßgeschneiderter Datensätze.
Ja, TrojAI Defend überträgt Erkenntnisse zur KI-Sicherheit in SIEM-, SOAR- und Ticket-Plattformen, sodass Ihr Team die KI-Sicherheit nahtlos in bestehende Arbeitsabläufe integrieren kann, ohne neue Silos zu schaffen.
Sie dienen unterschiedlichen Zwecken und ergänzen sich optimal. Das KI-Red-Teaming (TrojAI Detect) deckt Schwachstellen bereits vor der Bereitstellung auf, während die Laufzeit-Abwehr (TrojAI Defend) Agenten und Anwendungen im Produktionsbetrieb kontinuierlich schützt.
Zugehöriges Produkt
ThreatX von A10 Networks
ThreatX verfolgt einen einheitlichen WAPP-Ansatz und bietet einen ganzheitlichen, fortschrittlichen API-Schutz, der das gesamte Anwendungsökosystem sowohl vor Angriffen als auch vor Angreifern schützt.
Zusätzliche Ressourcen
A10 Networks TrojAI Inc. und erweitert seine KI-Strategie
Demo vereinbaren
