Principais pontos

  • A Open Secure AI Alliance foi fundada pela NVIDIA em parceria com 27 empresas, incluindo Microsoft e Dell.
  • O consórcio foca na mitigação de vulnerabilidades através da disponibilização de modelos e ferramentas abertas.
  • Estratégias de segurança recomendam o uso de gateways para separar prompts e logs de uso dos modelos de IA.

A NVIDIA anunciou a liderança na criação da Open Secure AI Alliance, uma iniciativa voltada a aprimorar a cibersegurança global por meio do uso de tecnologias abertas. O grupo conta com 27 membros fundadores, incluindo nomes como NVIDIA, Microsoft e Dell, para estabelecer novos padrões defensivos no setor de inteligência artificial.

A criação do consórcio ocorre em um cenário de crescente preocupação com vulnerabilidades em modelos proprietários e diante do risco de banimentos governamentais a modelos de código aberto de origem chinesa. Para impulsionar a iniciativa, a NVIDIA informou que contribuirá com a disponibilização de modelos, pesos, dados e novas ferramentas de agentes.

A aliança defende que os modelos abertos são ativos essenciais para a infraestrutura de defesa digital. Segundo a NVIDIA, a aliança trabalhará para remediar e divulgar vulnerabilidades usando tecnologias abertas, fornecendo uma base colaborativa para conter ameaças complexas.

Tecnologias abertas e soberania de dados

Como exemplo da eficácia dessas soluções, a NVIDIA citou que, quando ferramentas de IA fechadas falharam, a Hugging Face usou o modelo GLM 5.2. A Hugging Face utilizou modelos de código aberto para deter uma invasão recente em seus sistemas, demonstrando a utilidade defensiva da tecnologia aberta.

Paralelamente à discussão de segurança, a diversificação de fornecedores tem sido apontada como fator crítico para a sobrevivência corporativa. Em declarações sobre o setor, Satya Nadella, CEO da Microsoft, afirmou que qualquer empresa que não tenha esse controle não permanecerá como empresa. Nadella recomenda que as organizações usem gateways de IA para separar prompts dos modelos e mantenham o contexto e a memória do modelo separados da infraestrutura.

De acordo com Nadella, ao manter o harness separado do modelo, você pode usar múltiplos modelos. O executivo destaca que empresas devem reter metadados e logs de uso de IA para manter o controle, garantindo maior flexibilidade e independência tecnológica. A Microsoft mantém investimentos na Anthropic e na OpenAI, enquanto o mercado observa uma tendência de busca por modelos de pesos abertos para maior soberania de dados.

Impacto para o mercado brasileiro

A iniciativa impacta diretamente empresas brasileiras que buscam padrões globais de segurança para implementar inteligência artificial localmente, visando mitigar riscos de ataques cibernéticos em suas infraestruturas críticas. A adoção de diretrizes internacionais permite aos desenvolvedores e gestores locais adequar suas arquiteturas de dados sem depender de um ecossistema único.

Até o momento, a NVIDIA e os demais membros fundadores não informaram prazos específicos para o lançamento de ferramentas regionais dedicadas ou custos associados às novas infraestruturas de agentes. Não há previsão de preços em reais ou ofertas comerciais exclusivas divulgadas para o mercado do Brasil.

Leia também

Perguntas frequentes

O que é a Open Secure AI Alliance?

A Open Secure AI Alliance é um consórcio liderado pela NVIDIA que reúne 27 empresas fundadoras, como Microsoft e Dell. O objetivo é estabelecer novos padrões de cibersegurança global, utilizando tecnologias de código aberto para proteger infraestruturas de inteligência artificial contra vulnerabilidades crescentes e ameaças complexas no setor tecnológico.

Qual a importância dos modelos abertos para a segurança?

Modelos abertos são vistos como ativos essenciais para a defesa digital, permitindo que organizações identifiquem e corrijam vulnerabilidades rapidamente. Conforme exemplificado pelo caso da Hugging Face, o uso de tecnologias abertas permite que empresas detenham invasões de sistemas com maior eficácia, promovendo soberania de dados e maior controle tecnológico.

Como empresas podem proteger seus dados com IA?

Especialistas recomendam o uso de gateways de IA para separar prompts dos modelos, mantendo o contexto, a memória e os metadados isolados da infraestrutura principal. Essa estratégia garante independência, evita a dependência de um ecossistema único e permite que empresas utilizem múltiplos modelos de forma segura e flexível.