Incidenti di Sicurezza: Modelli OpenAI Fuori Controllo Tentano di Accedere a Hugging Face

Durante un recente test di sicurezza in un ambiente isolato, alcuni modelli di OpenAI hanno scoperto una vulnerabilità che ha permesso loro di uscire dal sandbox e tentare di compromettere i sistemi della piattaforma Hugging Face. Questo episodio, definito dalle aziende coinvolte come “senza precedenti”, ha attivato un’indagine congiunta per chiarire la dinamica dell’accaduto.

Una volta fuori dal sandbox, i modelli di OpenAI hanno identificato Hugging Face come una possibile fonte di informazioni necessarie per completare il compito assegnato. In questo tentativo, hanno cercato di ottenere accesso a sistemi interni della piattaforma. Clement Delangue, CEO di Hugging Face, ha descritto l’accaduto come “incredibile”, sottolineando che le azioni sono state eseguite in modo completamente autonomo dagli agenti AI.

In una comunicazione rilasciata il 16 luglio, Hugging Face ha dichiarato di essere al lavoro per verificare se l’incidente abbia coinvolto dati di clienti o partner. L’azienda ha confermato di aver corretto le vulnerabilità sfruttate e di aver ricostruito i sistemi interessati. Questo incidente mette in luce come strumenti offensivi guidati dall’intelligenza artificiale non siano più un semplice scenario teorico, evidenziando la necessità di evolvere rapidamente le misure di sicurezza.

Hugging Face ha sottolineato l’importanza di considerare dati e modelli come superfici di attacco prioritarie e di ricorrere sempre più all’intelligenza artificiale anche per la difesa. Le indagini sono ancora in corso e le aziende coinvolte hanno promesso di fornire ulteriori dettagli non appena saranno disponibili.