La inteligencia artificial se convirtió en argumento de venta de prácticamente toda herramienta de seguridad. Para quien opera o contrata un SOC, la pregunta útil no es "¿tiene IA?", sino: ¿en qué etapas la IA reduce de verdad el tiempo y el esfuerzo de la operación, y en cuáles el juicio humano sigue siendo indispensable? La respuesta corta: la IA se encarga del volumen; el especialista decide lo que tiene consecuencias.
Dónde la IA ayuda de verdad
El cuello de botella clásico de un SOC es el volumen: muchos eventos, muchas alertas repetitivas y poco tiempo de analista para cada una. Es en ese trabajo repetitivo y de alto volumen donde la IA y la automatización rinden más.
- Triaje y priorización de alertas. Los modelos agrupan alertas relacionadas, descartan el ruido conocido y ordenan lo que queda combinando severidad, criticidad del activo y comportamiento observado.
- Enriquecimiento de contexto. Antes de que una persona abra el caso, la plataforma ya adjuntó la reputación de IP y dominios, datos de threat intelligence, el responsable y la función del activo, el historial del usuario y las vulnerabilidades conocidas del host.
- Correlación entre fuentes. Un inicio de sesión fuera de horario, un proceso inusual en el endpoint y un volumen anormal de lectura de archivos pueden ser eventos aislados o un único incidente. La IA cruza esas señales de endpoint, red, nube e identidad y reconstruye la línea de tiempo.
- Resumen de incidentes. Los modelos de lenguaje convierten decenas de eventos en un resumen legible: qué pasó, en qué activos, qué técnicas de MITRE ATT&CK aparecen y qué se hizo ya.
- Apoyo al threat hunting. La IA ayuda a convertir una hipótesis en consultas y a señalar anomalías para investigar; la hipótesis y la conclusión siguen siendo del analista.
- Automatización de respuesta con reglas acordadas. Los playbooks ejecutan acciones como aislar un endpoint, deshabilitar una cuenta o bloquear un tráfico. En escenarios bien definidos y aprobados de antemano, la contención puede ser automática y ocurrir en segundos; en los demás, la acción queda preparada y espera la aprobación de un analista.
Ese es el diseño de lo que llamamos SOC moderno (vea SOC tradicional vs. SOC moderno): la máquina absorbe la parte mecánica del trabajo para que las personas dediquen su tiempo a lo que exige juicio.
Dónde la IA todavía no reemplaza al analista
Los límites importan tanto como las ganancias.
- Decisiones de contención con impacto en el negocio. Aislar la estación de un pasante es una cosa; tumbar el servidor de pagos en el cierre de mes es otra. Las acciones que salen de lo preaprobado, o que tienen un efecto relevante en la operación, necesitan a una persona que sopese el costo de actuar frente al costo de esperar.
- Contexto de negocio. El modelo no sabe que la "transferencia anómala" es la migración de datos acordada la semana pasada, ni que ese proveedor acaba de ser dado de baja.
- Alucinación. Los modelos de lenguaje pueden producir respuestas fluidas y equivocadas. El perfil de IA generativa del NIST (NIST AI 600-1) trata este riesgo como confabulation. En un SOC, eso puede significar un resumen que cita una IP que no está en los logs o una conclusión sin evidencia. Toda afirmación generada por IA debe remitir al dato bruto.
- Ataques contra los propios modelos. Un asistente que lee correos, tickets o logs puede recibir instrucciones ocultas en ese contenido (prompt injection) y ser inducido a clasificar una alerta como benigna. La base MITRE ATLAS cataloga tácticas y técnicas de adversarios contra sistemas de IA, con el mismo espíritu de ATT&CK.
Automático no es sinónimo de sin supervisión. Una contención automática solo es segura cuando el escenario, la acción y los límites se definieron antes, junto con el cliente, y cuando cada acción queda registrada y puede revertirse.
Riesgos y gobernanza: los marcos que ayudan
Usar IA en el SOC también es colocar un sistema de IA dentro del perímetro más sensible de la empresa: lee telemetría, credenciales que aparecen en logs y datos personales. Tres referencias públicas ayudan a organizar ese riesgo.
- NIST AI RMF 1.0. El AI Risk Management Framework, publicado por el NIST en enero de 2023, organiza la gestión de riesgos de IA en cuatro funciones: Govern (políticas, roles y responsabilidades), Map (contexto y usos previstos), Measure (evaluación y monitoreo) y Manage (tratamiento y priorización de riesgos). El perfil complementario NIST AI 600-1, de 2024, detalla riesgos específicos de la IA generativa.
- OWASP Top 10 para aplicaciones LLM. La lista del proyecto OWASP GenAI Security destaca riesgos como prompt injection, divulgación de información sensible, manejo inadecuado de la salida del modelo y agencia excesiva, es decir, dar al modelo más permisos y autonomía de los necesarios. Este último punto es central para cualquier automatización de respuesta.
- MITRE ATLAS. Mapea cómo los adversarios atacan sistemas de IA (envenenamiento de datos, evasión, inyección de prompt) y sirve para modelar amenazas contra las herramientas del propio SOC.
En la práctica, esto se traduce en controles concretos: privilegio mínimo para los agentes de automatización, separación entre lo que la IA sugiere y lo que ejecuta, registro de cada decisión y de cada acción, revisión periódica de las reglas de contención automática y claridad sobre dónde se procesan los datos del cliente, un punto que también importa para las leyes de protección de datos, como la LGPD brasileña.
El humano al mando: cómo diseñar la división del trabajo
Un modelo útil es clasificar cada tipo de acción según su impacto y su reversibilidad:
- La IA lo hace sola. Enriquecimiento, correlación, agrupamiento, resumen y priorización. Ninguna de estas etapas altera el entorno del cliente.
- La IA ejecuta dentro de reglas preaprobadas. Contenciones de bajo impacto y fácil reversión, en escenarios definidos con el cliente, como deshabilitar una cuenta comprometida o aislar una estación, con notificación inmediata y revisión humana posterior.
- La IA prepara, el humano decide. Acciones con impacto relevante en la operación, sobre sistemas críticos o fuera de los escenarios previstos.
- Solo el humano. Comunicación con la dirección, con clientes y con reguladores, decisiones sobre activar el plan de respuesta a incidentes y la conclusión final sobre lo que ocurrió.
Esta división sigue la lógica del NIST SP 800-61 Rev. 3, que integra la respuesta a incidentes a la gestión de riesgos: roles y responsabilidades se definen antes del incidente, y no durante.
Métricas para medir la ganancia
"Usamos IA" no es una métrica. Para saber si la IA está ayudando, compare el antes y el después en los mismos indicadores:
- MTTD y MTTR. ¿Bajaron el tiempo medio de detección y el de respuesta desde que la IA asumió el triaje y la contención?
- Tasa de falsos positivos escalados. Cuántas alertas llegan al equipo del cliente sin requerir acción.
- Precisión de la IA. En cuántos casos el analista discrepó de la clasificación o del resumen generado por la IA.
- Acciones automáticas revertidas. Contenciones automáticas deshechas por haber sido indebidas. Es el termómetro de que la autonomía está bien calibrada.
En la práctica: el SOC Autónomo de Network Secure
En el SOC Autónomo de Network Secure, la plataforma Open-XDR hace el triaje, enriquece el contexto con threat intelligence y activa la contención mediante playbooks; los analistas validan la criticidad, investigan lo que es crítico, mapean el ataque en MITRE ATT&CK y ajustan las reglas. El SOC está certificado ISO/IEC 27001:2022, con certificación validada por Bureau Veritas.
Preguntas frecuentes
¿La IA va a reemplazar a los analistas de SOC?
No en un horizonte práctico. Reemplaza tareas, como consultas manuales, agrupamiento de alertas y redacción de resúmenes, no el juicio sobre el contexto de negocio, las decisiones de impacto ni la investigación de amenazas nuevas. El efecto esperado es que cada analista cubra más, con más calidad.
¿Es seguro dejar que la IA contenga amenazas automáticamente?
Sí, cuando la automatización se limita a escenarios y acciones definidos de antemano con el cliente, de bajo impacto y reversibles, con registro de cada acción y revisión humana. Fuera de eso, la acción debe prepararla la IA y aprobarla un analista.
¿Cómo saber si la IA de mi proveedor de SOC funciona?
Pida métricas de antes y después: MTTD, MTTR, falsos positivos escalados, tasa de discrepancia entre analista e IA y contenciones automáticas revertidas. Pregunte también qué acciones puede ejecutar la IA sin aprobación y dónde se procesan sus datos.
Fuentes consultadas: NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0, NIST AI 100-1, 2023); NIST AI 600-1, Generative Artificial Intelligence Profile (2024); OWASP GenAI Security Project, Top 10 for LLM Applications; MITRE ATLAS; MITRE ATT&CK; NIST SP 800-61 Rev. 3, Incident Response Recommendations and Considerations for Cybersecurity Risk Management. Este artículo es educativo; la división de tareas sugerida debe adaptarse al entorno, al apetito de riesgo y a los acuerdos de cada organización.