Nvidia lança aliança com 52 parceiros para segurança da IA
A Nvidia anunciou a Open Secure AI Alliance, aliança formada por 52 parceiros para desenvolver e compartilhar tecnologias abertas voltadas à segurança de sistemas de IA. A iniciativa reúne empresas, fundações, projetos e comunidades de código aberto com atuação em infraestrutura, software, cibersegurança e IA.
Entre os integrantes da aliança estão Microsoft, Dell Technologies, IBM, Cisco, Hewlett Packard Enterprise (HPE), Hugging Face, Palantir, Red Hat, Salesforce, SAP, Siemens, SK Telecom, SpaceX AI e Linux Foundation.
Segundo a Nvidia, o objetivo é desenvolver ferramentas para proteger aplicações baseadas em IA ao longo de todo o ciclo de operação dos chamados agentes inteligentes, abrangendo mecanismos de identidade, autenticação, permissões, ambientes de execução, registros de atividade, auditoria e avaliação de segurança.
A empresa afirma que a iniciativa busca ampliar a disponibilidade de ferramentas que possam ser inspecionadas, modificadas e executadas em infraestrutura própria, de forma a apoiar a identificação e a resposta a vulnerabilidades.
Ecossistema de código aberto
A Open Secure AI Alliance foi estruturada a partir de iniciativas já existentes no ecossistema de software livre. Uma delas é a Akrites, criada pela Linux Foundation para coordenar a identificação, correção e divulgação de vulnerabilidades em projetos de código aberto. A OpenSSF, comunidade dedicada à segurança da cadeia de desenvolvimento de software, também integra a base técnica da iniciativa.
Entre as contribuições anunciadas pela Nvidia está o framework experimental Nvidia Labs Object-Oriented Agent (NOOA), acompanhado de modelos, pesos e conjuntos de dados voltados à pesquisa sobre segurança de agentes de IA. O projeto foi desenvolvido para facilitar testes, rastreamento, auditoria e governança desses sistemas.
A Microsoft contribuirá com o MDASH, plataforma que utiliza agentes especializados para localizar e validar vulnerabilidades. IBM e Red Hat participarão com o projeto Lightwell, voltado à assinatura digital de correções distribuídas na cadeia de software aberto.
A HPE fornecerá implementações dos padrões SPIFFE e SPIRE, utilizados na autenticação criptográfica entre serviços e agentes. Já o Hugging Face contribuirá com o Safetensors, formato de armazenamento de pesos de modelos criado para reduzir riscos de execução de código durante o carregamento dos arquivos.
A SpaceX AI também integra o grupo e anunciou a abertura do código do Grok Build, além da intenção de disponibilizar os pesos de modelos da família Grok.
Incidente embasa proposta
A NVIDIA cita como exemplo um incidente ocorrido durante uma avaliação de segurança conduzida pela OpenAI na infraestrutura do Hugging Face. Durante os testes do benchmark ExploitGym, um modelo experimental conseguiu explorar vulnerabilidades no ambiente de avaliação, alcançando um sistema conectado à internet e obtendo acesso às respostas do benchmark hospedado na infraestrutura do Hugging Face.
Segundo o Hugging Face, a investigação analisou mais de 17 mil eventos registrados durante o episódio. Após tentativas iniciais com modelos acessados por APIs comerciais, a empresa utilizou internamente o modelo de pesos abertos GLM 5.2 para reconstruir a sequência do incidente e apoiar sua contenção.
Além das iniciativas técnicas, a Open Secure AI Alliance apresentou recomendações para políticas públicas relacionadas à segurança da IA.
O grupo defende que modelos abertos, ferramentas de segurança e estruturas de execução sejam reconhecidos por governos e reguladores como ativos de defesa cibernética. Também recomenda investimentos em bases de dados, ambientes de avaliação, simuladores de ataques e ferramentas de red team para fortalecer a segurança de aplicações baseadas em IA.
A aliança reconhece que modelos abertos podem ser utilizados em atividades ofensivas, inclusive após a remoção de mecanismos de proteção, mas sustenta que esse risco também deve ser considerado na implantação de modelos fechados.
Movimento mais amplo
A criação da Open Secure AI Alliance ocorre poucos dias após a divulgação da carta aberta Open Weights and American AI Leadership, também liderada pela Nvidia. No documento, empresas de tecnologia defendem que modelos com pesos abertos sejam tratados como ativos estratégicos para a competitividade e a segurança cibernética.
A relação de parceiros divulgada pela NVIDIA para a nova aliança não inclui OpenAI, Anthropic, Google nem Meta. O comunicado da empresa não comenta as ausências.