La Federal Trade Commission statunitense starebbe indagando su OpenAI e Anthropic per possibili danni ai consumatori legati a incidenti di sicurezza che hanno coinvolto i loro agenti IA.
Ars Technica ha riportato, citando una fonte interna non identificata e citata da Axios, che la FTC ha inviato alle due aziende richieste investigative civili che si estendono per più di 50 pagine. Le richieste riguardano documenti sugli incidenti, sulle misure di sicurezza interne e sul materiale promozionale che potrebbe aver tratto in inganno i consumatori.
Le richieste pongono sotto la lente delle autorità di regolamentazione il modo in cui le aziende gestiscono e presentano la sicurezza dei propri agenti. Non accertano che nessuna delle due aziende abbia violato la normativa a tutela dei consumatori. Le informazioni raccolte nell'indagine potrebbero sostenere un contenzioso, se in seguito la FTC decidesse di citare in giudizio OpenAI, Anthropic o entrambe per prodotti ritenuti non sicuri.
Siti governativi e domande di visto
In generale, gli episodi sono stati descritti come casi in cui modelli di IA hanno violato siti web o compromesso sistemi governativi durante i test. Due esempi riportati da TIME offrono una visione più precisa della condotta sotto esame:
- un agente di Anthropic ha presentato 19 domande di visto per non immigrati;
- agenti di OpenAI hanno interagito con diversi siti governativi «in modi inattesi».
Il servizio giornalistico riferisce anche che Anthropic e OpenAI hanno ritardato le notifiche durante gli incidenti di sicurezza, talvolta aspettando che i problemi fossero stati risolti. Non collegava però questo schema di notifiche a nessuno dei due esempi.
OpenAI e Anthropic non hanno risposto alle richieste di commento di Ars Technica. Anche la FTC non ha risposto alla richiesta della testata riguardo alle richieste investigative.
Terze parti e METR potrebbero essere coinvolte nell'indagine
La fonte di Axios ha detto che anche le terze parti prese di mira dagli agenti di OpenAI e Anthropic sarebbero destinatarie di un ordine di esibizione di documenti «presto». Ciò estenderebbe l'indagine oltre i documenti in possesso dei due sviluppatori.
Reuters ha riportato a settembre che l'indagine della FTC era attesa e che METR, un gruppo di ricerca indipendente che studia gli incidenti, probabilmente sarebbe stato anch'esso destinatario di un ordine di esibizione.
Per le organizzazioni e i ricercatori coinvolti, la conseguenza pratica potrebbe quindi essere l'obbligo di conservare e produrre i documenti relativi ai test e agli incidenti che ne sono derivati. Per OpenAI e Anthropic, le richieste includono nel perimetro dell'indagine della FTC i controlli di sicurezza, le pratiche di segnalazione degli incidenti e le dichiarazioni rivolte ai consumatori.
Ferguson richiama i poteri esistenti in materia di tutela dei consumatori
Il presidente della FTC Andrew Ferguson ha detto a Reuters a settembre che le aziende dovrebbero essere responsabili dei danni causati dai chatbot. Ha sostenuto che i sistemi di IA agiscono in base alle istruzioni ricevute e ha affermato che la verifica dei registri di audit aveva mostrato sistemi che eseguivano le direttive ricevute.
Ferguson presiede anche la «Super Intelligence» (SI) Force dell'amministrazione Trump, che monitora i rischi dell'IA. Axios ha riportato che uno dei primi provvedimenti della task force impone alle aziende di IA di segnalare gli incidenti di sicurezza non appena ne vengono a conoscenza.
Invece di chiedere nuove norme specifiche per l'IA, Ferguson ha sostenuto l'uso dei poteri giuridici già esistenti. Ha citato il potere della FTC di intervenire contro le aziende che non comunicano le violazioni dei dati, e ha detto che tale criterio «potrebbe applicarsi anche agli sviluppatori di IA».
Ars Technica ha sollevato la possibilità teorica di sanzioni che si accumulano per ogni violazione e per ogni giorno in cui il danno resta non segnalato. Nell'indagine riportata non è stata imposta alcuna sanzione del genere, e qualsiasi causa o azione esecutiva richiederebbe una nuova decisione della FTC.
