Sichere, leistungsstarke Infrastruktur-
en für agentenbasierte KI
Echtzeit-Leistung und -Schutz, während KI-Agenten eigenständig handeln
Was veranlasst KI-Agenten zum Handeln?
KI verlagert sich von Antworten hin zu Handlungen. Eigenständige Modelle und LLM-basierte Anwendungen weichen zunehmend autonomen Agenten, die vernetzte Tools auswerten und eigenständig handeln. Unternehmen gestalten ihre Rechenzentren neu, um:
- Bieten Sie die außergewöhnlich niedrige Latenz, die für agentenbasierte Echtzeit-Workflows erforderlich ist
- Sichern Sie die neue Angriffsfläche, die Agenten über Eingabeaufforderungen, den Modellkontext und die Tools, mit denen sie agieren können, erschließen.
- Sorgen Sie für Transparenz, während die Anzahl der Agenten in SaaS-, Cloud-Plattform-, Desktop- und selbst entwickelten Bereitstellungen zunimmt
Die wichtigsten Herausforderungen für die Kunden
Probleme mit der Latenzzeit
Agentische Workflows verketten mehrere Modell- und Toolaufrufe pro Anfrage, sodass die Nutzer jede Sekunde der zusätzlichen Latenz entlang der gesamten Kette spüren.
Sicherheitsrisiken
Agenten, die nicht nur reagieren, sondern aktiv handeln, vergrößern die Angriffsfläche: Prompt-Injektion, Datenlecks, Missbrauch von Tools und Kontextvergiftung über die Ebenen von Prompt, Modellkontext und Tools hinweg
Operative Komplexität
Da die Anzahl der Agenten teamübergreifend zunimmt und diese immer mehr Tools und Modelle nutzen, ist es für die IT schwierig, den Überblick darüber zu behalten, welche Agenten es gibt, was sie leisten können und welche Infrastruktur sie benötigen.
