Adversarial Agents
KI-Agenten, die sicherstellen, dass Ihr Agent im Produktivbetrieb auf feindselige, manipulative und vom Skript abweichende Eingaben vorbereitet ist.
Was sind Adversarial Agents?
Adversarial Agents
Sind KI-gestützte Testnutzer, die aktiv versuchen, Ihren Agenten zu überlisten. Statt zu prüfen, wie Ihr Agent mit erwarteten Eingaben umgeht, simulieren adversarische Tests feindselige, manipulative und vom Skript abweichende Anrufende. Dazu zählen Prompt-Injection-Versuche, das Abdriften vom Thema, das Überschreiben von Anweisungen, Datenextraktion und mehr. Jeder Agent, der in einer realen Umgebung eingesetzt wird, trifft früher oder später auf Anrufende, die widersprechen, Grenzen austesten oder die Interaktion gezielt unterlaufen wollen. Adversarial Agents simulieren diesen Druck in einer Sandbox-Sitzung, bevor er den Produktivbetrieb erreicht.
Adversarischen Test einrichten
Angreifer-Agenten definieren
Formulieren Sie einen adversarischen Prompt, der Persona, Ziele und Angriffsstrategie des Testnutzers festlegt – Prompt Injection, Abdriften vom Thema, Datenextraktion, Manipulation und mehr.
Sandbox-Sitzung durchführen
Das System erstellt ein Live-Gespräch zwischen zwei Agenten: Ihr echter Agent gegen den simulierten Angreifer. Beide sprechen in Echtzeit miteinander – ohne Auswirkungen auf echte Kunden oder Live-Daten.
Anhand von Northstars bewerten
Nach Ende der Sitzung läuft ein vollständiges Verhaltensaudit gegen jeden Northstar. Die Ergebnisse zeigen, welche Regeln unter Druck standhielten oder brachen – inklusive Pass/Fail und Korrekturvorschlägen.
Oder führen Sie eine komplette adversarische Test-Suite aus
Ausführung
Für eine umfassende Abdeckung können Sie mehrere adversarische Tests zu einer Suite bündeln. Geben Sie einen Generierungs-Prompt an, der die abzudeckenden Angriffsszenarien beschreibt, legen Sie eine Anzahl fest – und das System erzeugt automatisch eine vielfältige Auswahl an Szenarien. Führen Sie die Suite aus und verfolgen Sie die Pass/Fail-Raten aller Tests mit einer Fortschrittsanzeige in Echtzeit. Die Ergebnisse umfassen einen Live-Gesprächsviewer, ein Coverage-Diagramm mit den verschiedenen Testpfaden sowie eine Audit-Auswertung je Northstar mit Korrekturvorschlägen.
