Meta Muse: dimostrato in laboratorio un attacco web agli agenti cloud

Meta Muse: dimostrato in laboratorio un attacco web agli agenti cloud

Aggiungi CyberWorldOpsalle tue fonti preferite su Google
Meta Muse: dimostrato in laboratorio un attacco web agli agenti cloud
AI

Immagine illustrativa generata con AI

Una pagina web malevola potrebbe sottrarre e modificare le conversazioni private e le memorie salvate di un utente di Meta Muse senza che venga richiesta un’autorizzazione. Lo ha dimostrato in laboratorio la società di sicurezza NebuSec, come riportato da The Hacker News. I ricercatori hanno anche combinato più vulnerabilità per ottenere il pieno controllo del computer cloud dell’utente, arrivando alle credenziali degli account collegati. Secondo NebuSec, il team di Muse ha corretto tutte le vulnerabilità prima della pubblicazione della ricerca.

I risultati riguardano l’agente personale di intelligenza artificiale di Meta, lanciato l’8 settembre, che opera tramite gli account online collegati dagli utenti e può effettuare acquisti per loro conto. L’agente di ciascun utente viene eseguito su un computer cloud separato. La dimostrazione ha interessato questo ambiente cloud e non ha coinvolto attacchi a utenti reali.

L’attacco è rimasto confinato al computer di un singolo utente: i ricercatori non hanno raggiunto né il server condiviso sottostante né i computer degli altri utenti.

Da una pagina web all’archivio delle credenziali

L’architettura di sicurezza di Muse tiene conto della possibilità che un aggressore rivolti l’assistente contro il suo utente. Un livello di monitoraggio chiamato Sentinel è concepito come unico punto di controllo per tutto ciò che l’agente invia all’esterno, mentre password e token — le credenziali che consentono al software di accedere agli account collegati — dovrebbero restare fuori dalla portata dell’agente.

La dimostrazione è iniziata con l’apertura di una pagina malevola da parte dell’agente. La pagina poteva provocare l’invio della cronologia delle conversazioni e delle memorie salvate a un server esterno e modificare queste informazioni, senza mostrare all’utente una richiesta di autorizzazione.

I ricercatori hanno poi combinato una falla nel browser integrato di Muse con una vulnerabilità del kernel Linux, il nucleo del sistema operativo. Muse usa il browser per attività come la creazione di PDF. Sfruttando in sequenza le due falle, i ricercatori hanno ottenuto il pieno controllo del computer cloud dell’utente, come descritto nella loro analisi tecnica.

Quel controllo si estendeva ai file salvati, all’archivio delle credenziali e allo stesso Sentinel: componenti che l’architettura di Muse mantiene separati dall’agente. NebuSec ha dichiarato che le singole misure di contenimento hanno funzionato come previsto, ma che l’attacco nel suo insieme è comunque riuscito all’interno del computer dell’utente.

La compromissione dell’ambiente cloud è diversa da una precedente falla di Muse scoperta a settembre, che consentiva a un malware già in esecuzione sul Mac di un utente di assumere il controllo dell’assistente in locale.

Per i ricercatori, tutte le vulnerabilità sono state corrette

NebuSec ha segnalato i risultati al team di Muse. Il suo resoconto non chiarisce se vi siano stati accessi ai dati degli utenti prima dell’applicazione delle patch. Quando The Hacker News ha riportato la notizia, Meta non aveva confermato pubblicamente le correzioni né commentato la ricerca.

Per gli utenti con account collegati, l’ultimo aggiornamento riportato è la dichiarazione di NebuSec secondo cui il team di Muse ha corretto tutte le vulnerabilità sfruttate negli attacchi descritti prima che la ricerca fosse resa pubblica.

Leggi anche

Fonti

Torna alla home

Ultime notizie di cybersecurity

Tutte le notizie di cybersecurity →