TrojAI und Wiz: Den Kreis der KI-Sicherheit schließen
TrojAI ist nun in die AI-APP von Wiz integriert und verbindet damit die KI-basierte Asset-Erkennung von Wiz mit den KI-basierten Sicherheitstests und dem Laufzeitschutz von TrojAI.
Wichtigste Erkenntnisse
- Beim KI-Red-Teaming hat sich der Schwerpunkt vom Testen einzelner Modelle hin zur Simulation von Angriffen über den gesamten Stack verlagert, da Risiken dort entstehen, wo Komponenten miteinander verbunden sind.
- Agentische KI hat die Angriffsfläche vergrößert und sorgt dafür, dass kleine Manipulationen an Eingabeaufforderungen über eine Kette von Aktionen hinweg reale Konsequenzen nach sich ziehen.
- Adversarische Tests sind mittlerweile eine etablierte Praxis in Behörden, Labors und Unternehmen, wobei kontinuierliche Simulationen die einmaligen Tests ablösen.
- Herkömmliche Sicherheitsmaßnahmen reichen nicht aus, da KI-Systeme probabilistisch und kontextsensitiv sind und sich ständig weiterentwickeln.
- Der Weg in die Zukunft führt über eine kontinuierliche, auf Systemebene verankerte Sicherheit, die in den gesamten Lebenszyklus der KI integriert ist – und nicht über ein einmaliges Audit.
TrojAI freut sich, die Integration von Wiz als Teil von Die AI Application Protection Platform (AI-APP) von Wiz Einführung. Auf einer übergeordneten Ebene ist die Integration verbindet die KI-Asset-Erkennung von Wiz mit den KI-Sicherheitstests und dem Laufzeitschutz von TrojAI und schafft so einen durchgängigen KI-Sicherheits-Workflow rund um Transparenz, Tests und Schutz.
Was ist die TrojAI + Wiz-Integration?
Da Unternehmen weiterhin KI-Anwendungen und -Agenten einsetzen, stehen sie zunehmend vor der Herausforderung, sowohl die Transparenz als auch die Sicherheit ihrer KI-Infrastruktur zu gewährleisten. TrojAI und Wiz begegnen diesen Herausforderungen mit einem geschlossenen System, dessen Kern aus Erkennung, Test und Schutz besteht.
Wiz identifiziert und inventarisiert KI-Modelle und Endpunkte in Ihrer gesamten Umgebung, während TrojAI diese Bestandsdaten übernimmt, um automatisierte Red-Teaming-Tests durchzuführen. Nach der Bestandsaufnahme nutzt das agentengestützte Red-Teaming von TrojAI Detect adversarische Agenten, um Modelle auf Risiken wie Prompt-Injection, Datenlecks und unsicheres Verhalten zu testen. Die Ergebnisse werden anschließend an Wiz zurückgemeldet und bereichern dessen Sicherheitsgraph um KI-spezifische Erkenntnisse und Kontextinformationen. Mit einem besseren Kontext zu KI-Risiken können TrojAI-Nutzer ihre KI während der Laufzeit mit TrojAI Defend aktiv überwachen und schützen.
Warum das wichtig ist
Die meisten Unternehmen sehen sich heute mit einer fragmentierten KI-Sicherheitslandschaft konfrontiert. Es fehlt ihnen an einer klaren Bestandsaufnahme ihrer KI-Systeme. Sie haben Schwierigkeiten, Modelle auf realistische Schwachstellen zu testen, und möchten ihre KI-Implementierungen beschleunigen. Es fehlt ihnen an einem einheitlichen Ansatz zur Priorisierung und Behebung von Risiken.
Diese Integration geht auf diese Bedenken ein. Durch die Kombination von Wiz und TrojAI erhalten Sicherheitsteams vollständige Transparenz über ihre KI-Ressourcen und können kontinuierlich ausnutzbare Risiken wie Jailbreaks oder Datenexfiltration identifizieren. Auf dieser Grundlage können sie mithilfe der Wiz-Konsole Bedrohungen anhand realer Angriffspfade und des Cloud-Kontexts priorisieren und TrojAI Defend nutzen, um ihre KI-Ressourcen mit Laufzeitrichtlinien zu überwachen und zu schützen, die KI-Bedrohungen wie Prompt-Injection, Datenlecks und schädliche Inhalte aktiv abwehren.
Wie es funktioniert
- Entdecken Sie: Wiz durchsucht die Umgebung, um KI-Modelle und Endpunkte zu identifizieren.
- Test: TrojAI ruft diese Bestandsliste ab und führt automatisierte Red-Team-Tests durch, um Schwachstellen wie Prompt-Injection oder die Offenlegung sensibler Daten aufzudecken.
- Erweitern und priorisieren: Die Ergebnisse werden zurück an Wiz übermittelt, wo sie mit dem Kontext der Cloud-Infrastruktur abgeglichen werden, um tatsächliche Angriffspfade zu identifizieren.
- Schützen Sie: TrojAI setzt Sicherheitsmaßnahmen zur Laufzeit durch, um potenzielle Sicherheitslücken zu verhindern, indem es böswillige Eingabeaufforderungen blockiert, sensible Daten unkenntlich macht und Interaktionen in Echtzeit überwacht.
Der größere Zusammenhang
Wiz zeigt Ihnen, wo sich Ihre KI befindet und in welchem Zusammenhang sie mit Ihren Cloud-Risiken steht. TrojAI zeigt Ihnen, wie diese KI angegriffen werden kann, und stellt Ihnen die Tools zur Verfügung, um Angriffe in Echtzeit abzuwehren. Durch die Kombination der Cloud- und KI-Transparenz von Wiz mit den umfassenden KI-Sicherheitstests und -Durchsetzungsmaßnahmen von TrojAI können Unternehmen endlich von einem reaktiven Sicherheitsansatz zu einem proaktiven, lebenszyklusbasierten Ansatz übergehen und so die KI von der Entwicklung bis zur Produktion schützen.
Häufig gestellte Fragen
Die Integration von TrojAI und Wiz ist ein in sich geschlossener KI-Sicherheits-Workflow, der die KI-Asset-Erkennung von Wiz mit dem automatisierten Red-Teaming und dem Laufzeitschutz von TrojAI verbindet. Wiz identifiziert und erfasst KI-Modelle und Endpunkte in der gesamten Umgebung, TrojAI nutzt diese Bestandsdaten, um auf Schwachstellen zu prüfen, und die Ergebnisse werden zurück an Wiz übermittelt, um dessen Sicherheitsgraph mit KI-spezifischem Risikokontext anzureichern.
Die Integration behebt die drei zentralen Lücken, mit denen Unternehmen konfrontiert sind: mangelnde Transparenz bei KI-Ressourcen, die Unmöglichkeit, Modelle auf Schwachstellen in der Praxis zu testen, sowie das Fehlen eines einheitlichen Ansatzes zur Priorisierung und Behebung von Risiken. Durch die Kombination der Cloud- und KI-Transparenz von Wiz mit den Sicherheitstests und der Laufzeitdurchsetzung von TrojAI erhalten Sicherheitsteams eine lückenlose Abdeckung von der Erkennung bis zum Schutz und beseitigen so die blinden Flecken, die fragmentierte Tools hinterlassen.
Wiz scannt die Unternehmensumgebung, um KI-Modelle und Endpunkte zu identifizieren und zu erfassen, und liefert so eine umfassende Übersicht über die KI-Infrastruktur. Diese Bestandsaufnahme wird anschließend an TrojAI weitergeleitet, wodurch automatisierte Sicherheitstests für alle erkannten Ressourcen ermöglicht werden. Die Ergebnisse von TrojAI werden zurück an Wiz gesendet, wo sie mit dem Kontext der Cloud-Infrastruktur abgeglichen werden, um Teams dabei zu helfen, tatsächliche Angriffspfade zu identifizieren und Abhilfemaßnahmen zu priorisieren.
TrojAI ruft den Bestand an KI-Assets aus Wiz ab und führt automatisierte, agentengesteuerte Red-Team-Tests für jedes erkannte Modell oder jeden Endpunkt durch – dabei werden Risiken wie Prompt-Injection, Datenlecks, Jailbreaks und unsicheres Verhalten geprüft. Die Ergebnisse werden anschließend wieder in den Sicherheitsgraphen von Wiz zurückgespielt und bereichern diesen um KI-spezifische Erkenntnisse, die mit dem übergeordneten Cloud-Risikokontext korreliert werden können, um eine genaue Priorisierung zu ermöglichen.
Die Integration ist über den Wiz Integrations Marketplace verfügbar. Besuchen Sie die TrojAI-Integrationsseite auf Wiz, um loszulegen. Für eine angeleitete Einarbeitung oder um mehr darüber zu erfahren, wie sich die Integration in Ihre Umgebung einfügt, können Sie auch eine Demo mit dem TrojAI-Team vereinbaren.
