Antonio G. Di Benedetto ha avviato una serie di test sugli agenti IA locali. Ha usato Hermes Agent con un grande modello Qwen su un Mac Studio con 256 GB di memoria unificata, trovandolo utile per compiti che non affiderebbe a un servizio cloud. Ha però riscontrato problemi di stabilità e sostiene che l'idea dell'«assistente magico» non regge nell'uso quotidiano. Il suo resoconto, pubblicato da The Verge l'11 ottobre 2026, è un diario in prima persona e non un rapporto di sicurezza.
Perché testa i modelli locali
Di Benedetto dice di aver evitato in genere l'uso regolare dell'IA, perché non voleva consegnare dati personali ai fornitori cloud. Ora vuole capire se la spesa per l'hardware che esegue i modelli in locale sia ripagata. Si definisce un non esperto e presenta l'articolo come parte di una serie in corso.
Il suo banco di prova comprende un Mac Studio M5 Ultra e altri sistemi Mac e Windows. Scrive che Apple presenta i nuovi desktop Mac come buone macchine per l'IA locale e che i PC Windows RTX Spark, con fino a 128 GB di RAM e pensati per l'IA agentica, sono «in arrivo a breve». Si tratta di affermazioni dei produttori e del mercato che lui riporta, non di risultati dei suoi test.
La configurazione
- Agente: Hermes Agent, che descrive come un'app desktop open source e self-hosted per macOS, Windows e Linux. Secondo quanto riferisce, è gratuita finché esegue modelli locali.
- Hardware: un Mac Studio con 256 GB di memoria unificata.
- Modello: Qwen 3.8 Flash Next, che descrive come un modello da 125 miliardi di parametri, di circa 105 GB.
- Accesso da telefono: un bot Telegram che gli permette di controllare Hermes da remoto.
Poi prevede di provare modelli Qwen più piccoli su un Mac Mini M6, un MacBook Air M5 e un Asus TUF Gaming A14 con processore AMD Strix Halo. L'hardware RTX Spark è in lista per più avanti.
Che cosa ha fatto l'agente
Briefing quotidiano. Un cron job impostato alle 7:30 legge la posta e il calendario, aggiunge un bollettino meteo e invia il risultato su Telegram. All'inizio falliva di continuo, perché macOS era in stop quando il job partiva. Dice che ora funziona in modo affidabile, anche se durante i test si è interrotto più volte.
Pulizia della libreria Steam. Hermes ha ordinato più di 400 giochi per genere, lasciando intatte le sue categorie: preferiti, cooperativi, giochi da festa e giochi da fare con la moglie. Ha letto il client Steam già installato sul Mac. Per farlo, Di Benedetto ha registrato una chiave API web di Steam e l'ha fornita all'agente. L'ordinamento ha richiesto pochi minuti, e subito dopo ha revocato la chiave perché non gli serviva più.
Analisi di dati sensibili. Hermes ha elaborato registrazioni finanziarie e ha prodotto un foglio di calcolo che confronta le specifiche di alcuni portatili. Ha tenuto entrambe le attività sulla propria macchina, per via dei dati finanziari sensibili e di un lancio di portatili sotto embargo. Dice che proprio questo ha reso lo strumento utile.
Automazione dei benchmark, non completata. Vuole uno script che esegua i benchmark dei portatili che ora fa a mano: una dozzina di test, tre esecuzioni ciascuno. Hermes ha prodotto script Python scritti con il vibe coding, ma lui descrive il progetto come un lavoro in corso.
Contesto sui costi
Parlando del briefing quotidiano, cita «un computer da 12.000 dollari», senza dire a quale dispositivo si riferisca. Ricorda anche una dimostrazione Apple, a un briefing a cui ha partecipato il mese scorso, di quattro Mac Studio collegati in cluster. La stima è di «quasi 50.000 dollari di potenza di calcolo».
Il suo giudizio
Di Benedetto conclude che l'IA locale vale la pena per i compiti che terrebbe lontani dal cloud, soprattutto per ragioni di privacy. Sull'affidabilità è netto: anche i modelli locali potenti non si comportano come un assistente capace di fare qualsiasi cosa, e il suo briefing si è interrotto più di una volta. Considera Hermes uno strumento, non un compagno, e dice che continuerà a testare e a riferire mentre lavora sulle altre macchine.
