A segurança da IA não pode depender apenas do que cada empresa descobre sozinha

Nenhuma empresa enxerga sozinha todos os caminhos de um risco

Uma organização pode conhecer profundamente seus dados, processos e responsabilidades. Pode limitar acessos, revisar fornecedores e acompanhar incidentes. Ainda assim, não consegue observar sozinha todas as formas pelas quais um sistema de inteligência artificial pode falhar, ser manipulado ou produzir efeitos inesperados.

O problema cresce quando a IA deixa de responder perguntas e passa a usar ferramentas, consultar fontes, executar código e agir em diferentes ambientes. Cada conexão acrescenta uma possibilidade útil e também uma nova superfície que precisa ser compreendida.

Boa parte desse desafio é compartilhada. Uma técnica capaz de induzir um agente a ignorar instruções pode aparecer em empresas de setores diferentes. Uma fragilidade em uma biblioteca pode alcançar muitos produtos. Um método de avaliação criado por uma equipe pode ajudar outras organizações a reconhecer o mesmo padrão antes que ele se transforme em incidente.

Isso muda a lógica da segurança empresarial. Proteger informações específicas continua sendo uma responsabilidade interna. Mas aprender como sistemas de IA se comportam sob pressão pode exigir colaboração além dos limites de uma única companhia.

Uma aliança coloca a defesa aberta no centro da discussão

Em 27 de julho de 2026, a NVIDIA anunciou a Open Secure AI Alliance, uma coalizão formada por empresas de computação em nuvem, cibersegurança, software empresarial, pesquisa em IA e organizações ligadas ao código aberto.

Segundo o anúncio, o objetivo é desenvolver e compartilhar tecnologias, técnicas e ferramentas para proteger software e agentes. A proposta inclui pesquisa aberta, modelos, dados, estruturas de avaliação e recursos que possam ser examinados e melhorados por diferentes participantes.

A publicação apresenta um argumento relevante para a gestão. Um agente não é apenas o modelo que produz uma resposta. Ele inclui identidade, permissões, ferramentas, regras de execução, registros e mecanismos de proteção. Avaliar somente o modelo deixa de fora parte importante do sistema que realmente atua dentro da empresa.

A CrowdStrike, integrante inaugural da iniciativa, reforçou o mesmo ponto em sua própria publicação. Para a empresa, defensores precisam conseguir inspecionar, testar e adaptar os recursos usados para proteger os ambientes dos quais dependem.

Os comunicados representam a posição das organizações participantes e não provam, por si, que a aliança produzirá todos os resultados esperados. Eles registram, porém, uma mudança concreta: grandes fornecedores estão tratando a segurança da IA como um campo que também precisa de recursos compartilhados.

Abrir a defesa não significa abrir o que deve permanecer protegido

A palavra abertura pode gerar uma confusão importante. Compartilhar métodos de avaliação, ferramentas defensivas e conhecimento sobre classes de risco não exige publicar dados de clientes, configurações sensíveis ou detalhes que ampliem uma vulnerabilidade ainda não corrigida.

Empresas precisam separar ativos. Informações comerciais, credenciais, registros internos e condições específicas de acesso pertencem ao domínio privado. Já padrões de teste, mecanismos de observação, formas responsáveis de comunicar falhas e técnicas para reduzir riscos podem ganhar força quando são construídos de forma colaborativa.

Essa distinção já existe na segurança de software. Organizações preservam segredos operacionais enquanto participam de comunidades que mantêm bibliotecas, divulgam vulnerabilidades de maneira coordenada e desenvolvem referências comuns.

A IA amplia a necessidade dessa separação. Como o comportamento do sistema depende da combinação entre modelo, contexto e ferramentas, uma descoberta defensiva pode ser útil para muitos ambientes sem revelar o conteúdo particular de nenhum deles.

A questão não é escolher entre sigilo total e exposição total. É decidir com clareza o que precisa ser protegido, o que pode ser verificado por terceiros e o que deveria ser fortalecido por contribuição coletiva.

Segurança compartilhada reduz cegueira, não responsabilidade

Uma ferramenta aberta pode ajudar a testar um agente, mas não conhece automaticamente a finalidade do processo. Uma avaliação comunitária pode revelar uma classe de falha, mas não decide qual impacto é aceitável para uma empresa específica.

Cada organização continua responsável por compreender onde a IA atua, quais dados utiliza, quem pode autorizar mudanças e que consequências uma decisão pode produzir. Também precisa verificar se uma ferramenta externa é adequada, mantida e compatível com o próprio ambiente.

O valor da colaboração aparece na ampliação do campo de visão. Equipes diferentes formulam perguntas diferentes, encontram comportamentos distintos e submetem componentes a condições que uma única empresa talvez não tenha imaginado.

Isso não terceiriza a gestão do risco. Oferece matéria prima melhor para que a gestão aconteça. A responsabilidade continua local, enquanto parte da capacidade de perceber e testar ameaças pode ser coletiva.

O foco precisa sair do modelo isolado e alcançar o sistema completo

Uma empresa pode avaliar a qualidade de um modelo e ainda manter um agente inseguro. O problema pode estar na credencial usada para acessar um serviço, em uma ferramenta disponível no momento errado, em uma fonte tratada como confiável ou na ausência de registro sobre uma ação.

A orientação da OWASP para aplicações agentivas destaca riscos que surgem quando sistemas planejam, utilizam ferramentas e executam etapas com algum grau de autonomia. Esse tipo de aplicação precisa ser analisado como uma cadeia de componentes e decisões.

Na prática, a avaliação deve observar como a identidade é confirmada, quais permissões são concedidas, como entradas externas são tratadas, onde ações ficam registradas e que mecanismo interrompe o fluxo quando o contexto muda.

Também é necessário testar transições. Um agente pode se comportar adequadamente enquanto pesquisa e falhar ao passar para a execução. Pode produzir um bom rascunho e utilizar uma condição inadequada no momento do envio. A segurança depende dos pontos em que a natureza do trabalho muda.

Uma infraestrutura coletiva de defesa se torna especialmente útil nesse nível. Ela permite comparar métodos, reproduzir cenários e melhorar ferramentas que observam o sistema inteiro, não apenas a resposta textual do modelo.

A empresa precisa criar um ciclo para receber e transformar aprendizado externo

Participar de uma comunidade ou acompanhar uma aliança não produz proteção automática. O conhecimento externo só gera valor quando existe um processo interno capaz de avaliá-lo e transformá-lo em decisão.

Esse ciclo começa com alguém responsável por acompanhar fontes confiáveis. Depois, cada descoberta precisa ser relacionada aos sistemas em uso. Uma nova classe de ataque afeta quais agentes, integrações ou fornecedores? Existe um teste capaz de reproduzir o problema? O controle atual é suficiente?

A etapa seguinte é priorizar. Nem toda atualização exige uma mudança imediata. A relevância depende do contexto, da exposição, do impacto possível e da capacidade de detecção. O NIST recomenda que a gestão de riscos em IA seja contínua e vinculada à finalidade e às consequências do sistema.

Por fim, a organização precisa registrar o que decidiu. Se um risco foi aceito, mitigado ou considerado inaplicável, a justificativa deve permanecer disponível. Sem essa memória, cada nova equipe reabre a mesma discussão e o aprendizado coletivo não se converte em maturidade interna.

Fornecedores também devem ser avaliados pela capacidade de colaborar

A escolha de uma solução de IA costuma considerar funcionalidade, custo, integração e proteção de dados. O movimento em direção à segurança compartilhada acrescenta outra pergunta: como o fornecedor contribui para a compreensão coletiva dos riscos?

Uma empresa pode observar se o fornecedor publica documentação suficiente, mantém canais para relato responsável de falhas, atualiza orientações, participa de padrões e explica como responde a descobertas relevantes.

Também importa saber se o cliente consegue testar o sistema. Controles que não podem ser observados, configurados ou verificados aumentam a dependência de declarações gerais. A confiança empresarial precisa de evidências compatíveis com o risco.

Isso não significa exigir que todo produto seja aberto. Significa reconhecer que segurança sustentável depende de interoperabilidade, transparência proporcional e capacidade de aprender com o ecossistema.

Quando um fornecedor trata toda pergunta como segredo, o cliente perde condições de governar. Quando compartilha tudo sem coordenação, pode criar exposição. A qualidade está na disciplina com que equilibra proteção, verificação e contribuição.

Cinco práticas para começar sem transformar segurança em discurso

Primeiro, mantenha um inventário dos sistemas de IA e das ferramentas que cada um utiliza. É difícil relacionar uma nova descoberta ao negócio quando ninguém sabe onde determinado componente está presente.

Segundo, defina uma rotina de avaliação. Testes precisam acontecer antes do uso, depois de mudanças relevantes e quando novas informações alteram a compreensão do risco.

Terceiro, separe o material compartilhável do conteúdo sensível. A empresa pode contribuir com padrões, correções e aprendizados sem expor clientes, credenciais ou detalhes que ainda exigem contenção.

Quarto, crie um processo de divulgação responsável. Pessoas internas e pesquisadores externos precisam saber como comunicar uma falha, quem responderá e como a correção será coordenada.

Quinto, transforme incidentes e quase incidentes em aprendizado. A revisão deve observar não apenas o erro imediato, mas também quais sinais estavam disponíveis, por que não foram percebidos e qual melhoria pode beneficiar outros sistemas.

Essas práticas aproximam a organização da ideia de segurança por projeto defendida pela CISA. A proteção deixa de ser uma correção posterior e passa a influenciar decisões de arquitetura, produto e operação desde o início.

A liderança deve financiar bens comuns que também protegem o negócio

Ferramentas abertas, referências e pesquisa compartilhada podem parecer externas ao trabalho principal da empresa. Na realidade, muitas operações dependem de componentes mantidos por comunidades que raramente aparecem no orçamento.

A liderança pode contribuir de maneiras diferentes. Pode permitir que profissionais dediquem tempo a projetos relevantes, apoiar organizações confiáveis, compartilhar correções, participar de grupos de trabalho ou publicar aprendizados que não comprometem informações sensíveis.

Esse investimento não deve ser tratado apenas como reputação. Uma base defensiva melhor reduz a distância entre a descoberta de um problema e a capacidade de compreendê-lo. Também aumenta a quantidade de pessoas capazes de examinar ferramentas das quais muitos negócios dependem.

Ao mesmo tempo, contribuição exige governança. A empresa precisa definir quem pode representar a organização, quais informações podem sair do ambiente interno e como compromissos externos serão avaliados.

A pergunta estratégica é simples: quais recursos coletivos sustentam a nossa capacidade de usar IA com segurança e o que fazemos para que eles continuem confiáveis?

Conclusão

A Open Secure AI Alliance nasce em um momento em que modelos e agentes estão ocupando partes mais sensíveis do trabalho. Quanto maior a autonomia, menos plausível se torna a ideia de que cada empresa conseguirá descobrir isoladamente todas as formas de proteger seus sistemas.

Controles internos continuam indispensáveis. Inventário, acesso, testes, monitoramento e responsabilidade não podem ser delegados a uma coalizão. A colaboração acrescenta outra camada: a possibilidade de transformar descobertas dispersas em ferramentas e conhecimento disponíveis para mais defensores.

Na minha visão, segurança madura não é o segredo mais bem guardado. É a combinação entre aquilo que a empresa protege com rigor e aquilo que decide fortalecer junto com o mercado. Quando cada organização esconde até os métodos de defesa, todos repetem investigações e deixam lacunas semelhantes abertas por mais tempo.

A confiança na inteligência artificial será construída por sistemas capazes de resistir à verificação, aprender com falhas e melhorar com contribuições diversas. Empresas que compreenderem essa lógica não verão a segurança compartilhada como perda de vantagem. Verão como a infraestrutura que torna possível inovar sem depender apenas da própria sorte.