Cisco hat Project Quarry als Open-Source-Projekt veröffentlicht, ein Werkzeug zur Formulierung von Erkennungsregeln, die zusammenhängende Aktionen von KI-Agenten auf verdächtige Muster prüfen, wie SecurityWeek berichtet. Das Projekt adressiert ein Problem für Organisationen, die Agenten einsetzen: Eine Abfolge einzeln erlaubter Anfragen kann einen Angriff offenlegen, den Prüfungen einzelner Anfragen übersehen würden.
Cisco beschreibt Quarry als „neurosymbolische“ Regelsprache, die maschinelle Lernbewertungen mit expliziten Prüfungen von Bedingungen, Sequenzen, Zeichenkettenabgleichen und Beziehungen zwischen Tools kombiniert. Der angegebene Anwendungsbereich umfasst Einzelrunden- und Mehrrunden-Konversationen mit großen Sprachmodellen, Agentenaktivitäten, Tool-Nutzung, Interaktionen über das Model Context Protocol (MCP) sowie multimodale Eingaben.
Die Unterscheidung ist wichtig, wenn ein Agent eine größere Operation in scheinbar routinemäßige Aufgaben zerlegt. SecurityWeek verweist auf eine Kampagne aus dem Jahr 2025, bei der Claude Code gegen rund 30 Organisationen eingesetzt wurde. Dabei bildeten Anfragen, die sich als autorisierte Sicherheitstests ausgaben, eine Abfolge mit dem Ziel, Daten zu stehlen. Das Beispiel veranschaulicht das Erkennungsproblem; der Bericht belegt jedoch nicht, dass Quarry diese Kampagne erkannt hat.
Quarry-Regeln können auf Klassifikatoren und LLM-basierte Bewerter zurückgreifen, wenn Einschätzungen von der Bedeutung abhängen, während sie andere Teile der Aktivität mit exakten Prüfungen untersuchen. Cisco positioniert das Projekt als gemeinsame Richtlinienschicht mit Einsatzmöglichkeiten wie Laufzeit-Guardrails, der Analyse aufgezeichneter Aktivitäten und Incident Response. Es soll bestehende Detektoren und Durchsetzungsmechanismen ergänzen.
Das Projekt ist außerdem mit Ciscos Integrated AI Security & Safety Framework verbunden. Laut Cisco definiert das Framework Risikokategorien, während Quarry eine Richtlinien- und Bewertungsschicht bereitstellt, um diese Risiken in Agentenaktivitäten zu erkennen. Diese Kategorien können auch die Entwicklung zusätzlicher Regeln leiten.
Für Praktiker umfasst die Veröffentlichung eine Regelsprache, eine Auswertungslaufzeit mit konfigurierbaren Sicherheits- und Ressourcenlimits, einen Kommandozeilen-Scanner für einzelne Traces und Datensätze sowie ein Python-SDK für die Anwendungsintegration. Hinzu kommen Beispiele, Regel-Metadaten, Dokumentation und ein Workflow, mit dem Regeln gegen bösartige und harmlose Datensätze geprüft werden können.
Cisco erklärt, ein Quarry-Plugin ermögliche es Claude Code, Codex und anderen MCP-kompatiblen Agenten, Regeln aus in einfacher Sprache verfassten Beschreibungen der Risiken einer Organisation zu erstellen, zu kompilieren und zu verfeinern und sie anschließend an echten Konversationen zu testen. Die erklärte Absicht des Unternehmens ist, dass Regeln, die über einen Coding-Agenten getestet wurden, zur Laufzeit dasselbe Verhalten zeigen.
Cisco möchte, dass Quarry zu einem gemeinsamen Format für den Austausch von Erkennungsregeln für KI-Agenten-Angriffe wird, und zieht dabei Vergleiche zu Snort, YARA und Sigma. Das praktische Versprechen besteht darin, Verteidigern zu helfen, schädliche Abfolgen zu erkennen, während sie ablaufen, und die Belege hinter einem Befund aufzubewahren. Die vorliegende Darstellung beschreibt dieses Ziel und die verfügbaren Komponenten, enthält aber keine Messungen der Erkennungsgenauigkeit und keine unabhängige Validierung ihrer Wirksamkeit.
