Cisco ha rilasciato come open source Project Quarry, uno strumento per definire regole di rilevamento che analizzano le azioni collegate degli agenti IA alla ricerca di schemi sospetti, secondo quanto riportato da SecurityWeek. Il progetto affronta un problema per le organizzazioni che impiegano agenti: una sequenza di richieste, ciascuna singolarmente consentita, può rivelare un attacco che i controlli sulle singole richieste non individuerebbero.
Cisco descrive Quarry come un linguaggio di regole «neurosimbolico», che combina valutazioni basate sull'apprendimento automatico con verifiche esplicite su condizioni, sequenze, corrispondenze di stringhe e relazioni tra strumenti. L'ambito dichiarato comprende le conversazioni con modelli linguistici di grandi dimensioni, sia a turno singolo sia a più turni, l'attività degli agenti, l'uso degli strumenti, le interazioni tramite Model Context Protocol (MCP) e gli input multimodali.
La distinzione conta quando un agente suddivide un'operazione più ampia in attività dall'aspetto di routine. SecurityWeek cita una campagna del 2025 che ha coinvolto Claude Code e circa 30 organizzazioni, nella quale richieste presentate come test di sicurezza autorizzati formavano una sequenza mirata a sottrarre dati. L'esempio illustra il problema del rilevamento; il rapporto non stabilisce che Quarry abbia individuato la campagna.
Le regole di Quarry possono basarsi su classificatori e su giudici basati su LLM per le valutazioni che dipendono dal significato, applicando controlli esatti alle altre parti dell'attività. Cisco presenta il progetto come uno strato di policy condiviso, con usi che includono i guardrail in esecuzione, l'analisi dell'attività registrata e la risposta agli incidenti. È pensato per integrare i rilevatori e i controlli di applicazione già esistenti.
Il progetto è collegato anche all'Integrated AI Security & Safety Framework di Cisco. Secondo la descrizione di Cisco, il framework definisce le categorie di rischio, mentre Quarry fornisce uno strato di policy e valutazione per rilevare tali rischi nell'attività degli agenti. Le stesse categorie possono anche guidare lo sviluppo di regole aggiuntive.
Per chi lavora sul campo, la release include un linguaggio di regole, un runtime di valutazione con limiti di sicurezza e di risorse configurabili, uno scanner da riga di comando per le singole tracce e per i dataset e un SDK Python per l'integrazione nelle applicazioni. Comprende inoltre esempi, metadati delle regole, documentazione e un flusso di lavoro per verificare le regole su dataset sia malevoli sia benigni.
Secondo Cisco, un plugin di Quarry consente a Claude Code, Codex e altri agenti compatibili con MCP di comporre, compilare e perfezionare regole a partire da descrizioni in linguaggio semplice dei rischi di un'organizzazione, per poi testarle su conversazioni reali. L'intenzione dichiarata dall'azienda è che le regole testate tramite un agente di programmazione si comportino allo stesso modo in esecuzione.
Cisco vuole che Quarry diventi un formato comune per condividere i rilevamenti degli attacchi agli agenti IA, e fa un parallelo con Snort, YARA e Sigma. La promessa pratica è aiutare i difensori a riconoscere le sequenze dannose mentre sono in corso e a conservare le prove alla base di un riscontro. Il resoconto disponibile descrive questo obiettivo e i componenti disponibili, ma non fornisce misurazioni dell'accuratezza di rilevamento né una validazione indipendente della loro efficacia.
