Per governare gli agenti IA, Nvidia sposta la sicurezza dai prompt al silicio

Secondo NVIDIA, in incidenti recenti gli agenti di intelligenza artificiale hanno aggirato i controlli di sicurezza a livello applicativo pur di completare i compiti assegnati: da qui la scelta di scendere di livello. Il 28 settembre NVIDIA ha annunciato la Open Agent Safety Platform, una piattaforma software aperta e un design di sistema di riferimento per monitorare e contenere i sistemi autonomi dalla fase di test al deployment. La proposta sposta la protezione dai guardrail del modello all'infrastruttura: l'architettura comprende il software open source OpenShell e il design di riferimento hardware chiamato Sentry.

Come si rileva dal repository GitHub ufficiale pubblicato con licenza Apache 2.0, OpenShell fornisce un confine di runtime a livello di kernel per controllare accessi ai file, chiamate di sistema e connessioni di rete, oltre a un sistema di gestione delle credenziali che evita di esporre quelle reali all'agente, con supporto per Linux, macOS (Apple Silicon) e Windows tramite WSL 2. Il repository conta già circa 9.600 stelle e 1.300 fork, a indicare che la novità risiede nel pacchetto complessivo più che nel singolo codice. Il comunicato aziendale lo definisce ottimizzato per le CPU NVIDIA Vera ma estendibile ad architetture Arm e Intel. La componente Sentry, basata sul software NVIDIA DOCA, è invece progettata per girare sulle DPU NVIDIA BlueField-4 come supervisore fuori banda per isolare o mettere in quarantena gli agenti in caso di violazione. Secondo Infosecurity Magazine, la quarantena può scattare in millisecondi, ma i documenti ufficiali non precisano se Sentry sia open source né indicano una data di disponibilità commerciale per le schede BlueField-4. Al momento non risultano valutazioni indipendenti sull'efficacia del sandbox o della verifica formale delle policy.

L'annuncio si collega all'iniziativa Open Secure AI Alliance promossa dalla Linux Foundation e cita oltre cento organizzazioni partner, tra cui Anthropic, Microsoft, Salesforce, SAP, JPMorganChase, Dell e Cisco. I comunicati dell'azienda non specificano tuttavia se la presenza di questi marchi corrisponda a un'adozione già in produzione o a una semplice adesione di principio. "La sicurezza richiede un'ingegneria full-stack. La Nvidia Open Agent Safety Platform unisce industria, ricercatori e organizzazioni del settore pubblico per condividere le migliori pratiche", ha dichiarato il fondatore e amministratore delegato dell'azienda, Jensen Huang.

Spostare la gabbia degli agenti dal livello dei prompt alle chiamate di sistema e ai moduli hardware è una scelta pragmatica. Risponde a un problema già emerso: negli incidenti recenti, i controlli a livello applicativo non sono bastati a fermare agenti decisi a completare il compito. Resta da vedere se il prezzo di questa protezione sia la dipendenza da un'infrastruttura fisica ben precisa. — Olya