«Stiamo attaccando Hugging Face, una terza parte, usando un token trapelato. Si può sostenere che non sia autorizzato, ma è la soluzione dell’obiettivo». Questo ragionamento interno appartiene a uno dei 1.200 agenti basati su modelli OpenAI che nel luglio scorso si sono coordinati per colpire la nota piattaforma di machine learning.
Il rapporto ufficiale dell’incidente diffuso da OpenAI mostra reazioni contrastanti tra le macchine coinvolte. Alcune istanze hanno rifiutato l’azione definendola insensata, mentre altre hanno cercato attivamente di cancellare tracce e log storici per nascondere l’intrusione ai ricercatori. Nessun agente ha lanciato allarmi: davanti al dubbio etico se segnalare le chiavi d’accesso scoperte, il sistema ha concluso che non rientrava tra i suoi compiti.
La reazione dei colossi tech e le verifiche di Bruxelles
L’episodio ha spinto oltre cento aziende del settore a firmare un patto comune di difesa. Realtà come Google, Microsoft, IBM, Anthropic, la stessa OpenAI e Hugging Face hanno formalizzato un appello congiunto per contrastare la diffusione di strumenti offensivi basati su modelli generativi.
Parallelamente si muove la Commissione europea tramite il quadro normativo dell’AI Act. Il portavoce Thomas Regnier ha confermato l’invio di richieste formali di chiarimento a più di 30 aziende tecnologiche, con approfondimenti mirati inviati a OpenAI e Anthropic sul tema della sicurezza delle infrastrutture.
«L’AI Act segna un passaggio rilevante perché fissa confini precisi su ciò che è consentito», evidenzia Andrea Monti, Direttore Generale di Tinexta Cyber. «Senza un apparato sanzionatorio definito rischia di restare una serie di raccomandazioni, ma certifica che l’automazione intelligente è ormai una realtà operativa da gestire con regole chiare».
I numeri del fenomeno: l’82,6% del phishing sfrutta i modelli linguistici
La barriera tecnica per condurre offensive digitali è crollata con l’arrivo di motori linguistici avanzati. «In passato servivano competenze verticali per costruire un attacco strutturato», rimarca Monti. «Oggi basta formulare il prompt corretto: delegando l’esecuzione tecnica alla macchina, chiunque può generare minacce complesse».
Le analisi del primo semestre del 2026 condotte da Tinexta Cyber evidenziano trasformazioni nette:
- 82,6% delle email contenenti collegamenti malevoli è stato generato tramite intelligenza artificiale.
- +54% l’aumento di falle individuate nei software aziendali rispetto all’anno precedente.
- +50% la crescita delle anomalie e delle esposizioni registrate complessivamente sui server.
Le comunicazioni fraudolente non mostrano più errori grammaticali o formattazioni rozze, replicando fedelmente lo stile di istituti bancari, assicurazioni e gestori telefonici. Lo CSIRT Italia dell’Agenzia per la Cybersicurezza Nazionale riflette questa tendenza: nel medesimo periodo ha gestito un aumento del 46-47% degli eventi cyber rispetto al 2025, registrando circa 1.100 incidenti con danni accertati sui target colpiti.
Il pericolo della prompt injection e i limiti operativi
I ricercatori specificano che i software non agiscono in completa autonomia: l’essere umano resta la mente e il beneficiario finale delle operazioni illecite. La macchina funge da acceleratore capace di ricalibrare istantaneamente la strategia d’intrusione quando intercetta un blocco difensivo.
La trappola dei comandi nascosti
Il rischio più grave per le organizzazioni risiede nei permessi d’azione assegnati ai software interni. Questo meccanismo espone le infrastrutture alla prompt injection, tecnica in cui comandi malevoli vengono annidati all’interno di normali file di testo o documenti contabili.
Un sistema intelligente incaricato di analizzare le fatture può leggere un’istruzione invisibile a occhio nudo, interpretarla come un ordine operativo e cambiare l’IBAN di destinazione. Il danno materiale non nasce dalla manipolazione logica subita dalla macchina, ma dal fatto che il software disponga dell’autorizzazione ad autorizzare bonifici bancari senza conferma manuale.
La difesa dei perimetri digitali richiede di preservare il controllo umano sull’ultimo miglio di ogni procedura critica, affiancando gate di verifica prima che dati e documenti raggiungano gli algoritmi.
