Inteligência artificial virou argumento de venda de praticamente toda ferramenta de segurança. Para quem opera ou contrata um SOC, a pergunta útil não é "tem IA?", e sim: em quais etapas a IA reduz de fato o tempo e o esforço da operação, e em quais o julgamento humano continua indispensável? A resposta curta: a IA cuida do volume; o especialista decide o que tem consequência.
Onde a IA ajuda de fato
O gargalo clássico de um SOC é o volume: muitos eventos, muitos alertas repetitivos e pouco tempo de analista para cada um. É nesse trabalho repetitivo e de alto volume que a IA e a automação entregam mais.
- Triagem e priorização de alertas. Modelos agrupam alertas relacionados, descartam ruído conhecido e ordenam o que sobra pela combinação de severidade, criticidade do ativo e comportamento observado.
- Enriquecimento de contexto. Antes de um humano abrir o caso, a plataforma já anexou reputação de IPs e domínios, dados de threat intelligence, dono e função do ativo, histórico do usuário e vulnerabilidades conhecidas no host.
- Correlação entre fontes. Um login fora do horário, um processo incomum no endpoint e um volume anormal de leitura de arquivos podem ser eventos isolados ou um único incidente. A IA cruza esses sinais de endpoint, rede, nuvem e identidade e reconstrói a linha do tempo.
- Sumarização de incidentes. Modelos de linguagem transformam dezenas de eventos em um resumo legível: o que aconteceu, em quais ativos, quais técnicas do MITRE ATT&CK aparecem e o que já foi feito.
- Apoio ao threat hunting. A IA ajuda a transformar uma hipótese em consultas e a apontar anomalias para investigar; a hipótese e a conclusão continuam sendo do analista.
- Automação de resposta com regras acordadas. Playbooks executam ações como isolar um endpoint, desabilitar uma conta ou bloquear um tráfego. Em cenários bem definidos e previamente aprovados, a contenção pode ser automática e acontecer em segundos; nos demais, a ação fica preparada e aguarda a aprovação de um analista.
Esse é o desenho do que chamamos de SOC moderno (veja SOC tradicional x SOC moderno): a máquina absorve a parte mecânica do trabalho para que as pessoas dediquem tempo ao que exige julgamento.
Onde a IA ainda não substitui o analista
Os limites são tão importantes quanto os ganhos.
- Decisões de contenção com impacto no negócio. Isolar a estação de um estagiário é uma coisa; derrubar o servidor de pagamentos no fechamento do mês é outra. Ações fora do que foi pré-aprovado, ou com efeito relevante sobre a operação, precisam de uma pessoa que pese o custo de agir contra o custo de esperar.
- Contexto de negócio. O modelo não sabe que a "transferência anômala" é a migração de dados combinada na semana passada, nem que aquele fornecedor acabou de ser desligado.
- Alucinação. Modelos de linguagem podem produzir respostas fluentes e erradas. O perfil de IA generativa do NIST (NIST AI 600-1) trata esse risco como confabulation. Num SOC, isso pode significar um resumo que cita um IP que não está nos logs ou uma conclusão sem evidência. Toda afirmação gerada por IA precisa apontar para o dado bruto.
- Ataques contra os próprios modelos. Um assistente que lê e-mails, tickets ou logs pode receber instruções escondidas nesse conteúdo (prompt injection) e ser induzido a classificar um alerta como benigno. A base MITRE ATLAS cataloga táticas e técnicas de adversários contra sistemas de IA, no mesmo espírito do ATT&CK.
Automático não é sinônimo de sem supervisão. Uma contenção automática só é segura quando o cenário, a ação e os limites foram definidos antes, junto com o cliente, e quando cada ação fica registrada e pode ser revertida.
Riscos e governança: os frameworks que ajudam
Usar IA no SOC é também colocar um sistema de IA dentro do perímetro mais sensível da empresa: ele lê telemetria, credenciais em logs e dados pessoais. Três referências públicas ajudam a organizar esse risco.
- NIST AI RMF 1.0. O AI Risk Management Framework, publicado pelo NIST em janeiro de 2023, organiza a gestão de risco de IA em quatro funções: Govern (políticas, papéis e responsabilidades), Map (contexto e usos pretendidos), Measure (avaliação e monitoramento) e Manage (tratamento e priorização dos riscos). O perfil complementar NIST AI 600-1, de 2024, detalha riscos específicos de IA generativa.
- OWASP Top 10 para aplicações LLM. A lista do projeto OWASP GenAI Security destaca riscos como prompt injection, divulgação de informação sensível, tratamento inadequado da saída do modelo e agência excessiva, isto é, dar ao modelo permissões e autonomia além do necessário. Esse último ponto é central para qualquer automação de resposta.
- MITRE ATLAS. Mapeia como adversários atacam sistemas de IA (envenenamento de dados, evasão, injeção de prompt) e serve para modelar ameaças contra as ferramentas do próprio SOC.
Na prática, isso se traduz em controles concretos: privilégio mínimo para os agentes de automação, separação entre o que a IA sugere e o que ela executa, registro de cada decisão e de cada ação, revisão periódica das regras de contenção automática e clareza sobre onde os dados do cliente são processados, ponto que também importa para a LGPD.
Humano no controle: como desenhar a divisão de trabalho
Um modelo útil é classificar cada tipo de ação pelo impacto e pela reversibilidade:
- A IA faz sozinha. Enriquecimento, correlação, agrupamento, resumo e priorização. Nenhuma dessas etapas altera o ambiente do cliente.
- A IA executa dentro de regras pré-aprovadas. Contenções de baixo impacto e fácil reversão, em cenários definidos com o cliente, como desabilitar uma conta comprometida ou isolar uma estação, com notificação imediata e revisão humana em seguida.
- A IA prepara, o humano decide. Ações com impacto relevante na operação, sobre sistemas críticos ou fora dos cenários previstos.
- Só o humano. Comunicação com a diretoria, com clientes e com reguladores, decisões sobre acionar o plano de resposta a incidentes e a conclusão final sobre o que aconteceu.
Essa divisão segue a lógica do NIST SP 800-61 Rev. 3, que integra a resposta a incidentes à gestão de risco: papéis e responsabilidades se definem antes do incidente, e não durante.
Métricas para medir o ganho
"Usamos IA" não é métrica. Para saber se a IA está ajudando, compare o antes e o depois nos mesmos indicadores:
- MTTD e MTTR. O tempo médio de detecção e de resposta caiu desde que a IA entrou na triagem e na contenção?
- Taxa de falsos positivos escalados. Quantos alertas chegam ao time do cliente sem exigir ação.
- Precisão da IA. Em quantos casos o analista discordou da classificação ou do resumo gerado pela IA.
- Ações automáticas revertidas. Contenções automáticas desfeitas por terem sido indevidas. É o termômetro de que a autonomia está bem calibrada.
Na prática: o SOC Autônomo da Network Secure
No SOC Autônomo da Network Secure, a plataforma Open-XDR faz a triagem, enriquece o contexto com threat intelligence e aciona a contenção por playbooks; os analistas validam a criticidade, investigam o que é crítico, mapeiam o ataque no MITRE ATT&CK e ajustam as regras. O SOC é certificado ISO/IEC 27001:2022, com certificação validada pelo Bureau Veritas.
Perguntas frequentes
A IA vai substituir os analistas de SOC?
Não no horizonte prático. Ela substitui tarefas, como consultas manuais, agrupamento de alertas e redação de resumos, e não o julgamento sobre contexto de negócio, decisões de impacto e investigação de ameaças novas. O efeito esperado é cada analista cobrir mais, com mais qualidade.
É seguro deixar a IA conter ameaças automaticamente?
É, quando a automação se limita a cenários e ações definidos antes com o cliente, de baixo impacto e reversíveis, com registro de cada ação e revisão humana. Fora disso, a ação deve ser preparada pela IA e aprovada por um analista.
Como saber se a IA do meu fornecedor de SOC funciona?
Peça métricas antes e depois: MTTD, MTTR, falsos positivos escalados, taxa de discordância entre analista e IA e contenções automáticas revertidas. Pergunte também quais ações a IA pode executar sem aprovação e onde os seus dados são processados.
Fontes consultadas: NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0, NIST AI 100-1, 2023); NIST AI 600-1, Generative Artificial Intelligence Profile (2024); OWASP GenAI Security Project, Top 10 for LLM Applications; MITRE ATLAS; MITRE ATT&CK; NIST SP 800-61 Rev. 3, Incident Response Recommendations and Considerations for Cybersecurity Risk Management. Este artigo é educacional; a divisão de tarefas sugerida deve ser adaptada ao ambiente, ao apetite ao risco e aos acordos de cada organização.