¿Es lo mismo AISecOps que usar IA en un SOC?

No. Usar IA en el SOC es solo una parte. AISecOps también protege aplicaciones con LLM, RAG, agentes, modelos, datasets, pipelines, prompts, proveedores y herramientas conectadas.

¿Qué marcos se trabajan en el curso?

Se trabajan OWASP Top 10 for LLM Applications 2025, MITRE ATLAS, NIST AI RMF, NIST AI 600-1, Google SAIF, guías NCSC/CISA y referencias de cumplimiento como AI Act cuando aplican.

¿El curso es técnico?

Sí, aunque también incluye gobierno. Es especialmente útil para SecOps, SOC, AppSec, DevSecOps, cloud, MLOps, LLMOps, data engineering y arquitectura.

¿Incluye red teaming de IA?

Sí. Incluye pruebas de prompt injection, RAG poisoning, leakage, jailbreaks, abuso de herramientas, excessive agency, extracción de system prompts y fallos de control.

¿Incluye SIEM y SOAR?

Sí. El curso enseña a normalizar eventos de IA, diseñar detecciones, crear dashboards, correlacionar con IAM/cloud/DLP/EDR y construir playbooks de respuesta.

¿Sirve para proteger copilotos corporativos?

Sí. Incluye permisos, oversharing, conectores, logging, monitorización, DLP, inventario, políticas y revisión previa a la activación de copilotos internos.

¿Sirve para sistemas RAG?

Sí. Hay bloques específicos sobre seguridad de RAG, embeddings, bases vectoriales, permisos, poisoning documental, fuentes, citas, metadatos y recuperación segura.

¿Qué diferencia hay entre AISecOps y DevSecOps?

DevSecOps protege el ciclo de desarrollo y despliegue. AISecOps amplía la operación de seguridad a comportamientos, datos, prompts, modelos, agentes, RAG, proveedores, telemetría e incidentes específicos de IA.

¿La formación es bonificable por FUNDAE?

Sí. Al tratarse de formación corporativa orientada a empresa, puede bonificarse hasta el 100% mediante FUNDAE según el crédito disponible y las condiciones aplicables de la organización.

Curso de AISecOps (AI Security Operations)

Aprende con el curso de AISecOps (AI Security Operations) para empresas hasta 100% bonificado, a medida para tu organización.

Totalmente práctico y aplicable

Formación en AISecOps (AI Security Operations) a medida

100% bonificable a través de FUNDAE

Curso TUTORIZADO por expertos

Solicitar precio

Calcula mis créditos de FUNDAE

Solicitar precio

Calcula mis créditos de FUNDAE

Modalidad Aula Virtual Personalizada

Curso de AISecOps (AI Security Operations) en Aula Virtual Personalizada

Nuestra modalidad AVP es una formación en directo, práctica y 100% adaptada a vuestro equipo. No trabajamos con contenidos genéricos: diseñamos la formación en función de vuestro nivel, objetivos, procesos internos y necesidades reales de aplicación.

Solicitar información

Temario 100% a medida

Creamos el temario desde cero a partir de vuestras necesidades, nivel del equipo y objetivos concretos, priorizando aquellos contenidos que realmente aporten valor en el día a día.

Proyectos personalizados

Durante la formación trabajaremos con archivos, ejemplos, informes o procesos similares a los que utiliza vuestro equipo, para que el aprendizaje sea directamente aplicable al puesto de trabajo.

Sesiones en directo con consultor experto

Un formador especialista imparte las clases en tiempo real, resolviendo dudas, revisando casos concretos y adaptando el ritmo de la formación a la evolución del grupo.

Calendario adaptado a vuestra disponibilidad

Definimos conjuntamente fechas, horarios y duración de las sesiones para facilitar la asistencia del equipo y minimizar el impacto en la operativa diaria de la empresa.

Bonificación FUNDAE

Curso de AISecOps (AI Security Operations) hasta 100% Bonificable a través de FUNDAE

Tu bonificación paso a paso

Forma a tu equipo sin costes mediante la bonificación estatal.
Este programa de AISecOps (AI Security Operations) para empresas es subvencionable hasta el 100%.

Potencia las habilidades de edición y automatización de tus profesionales.
Accede a una formación avanzada en AISecOps (AI Security Operations) práctica y orientada a resultados.
Prepara a tu equipo para los retos documentales del entorno laboral actual.
Gestionamos gratis tu bonificación de este curso corporativo de AISecOps (AI Security Operations) ante FUNDAE.

Hablar con un asesor

01.

Calcula tu bonificación

02.

Revisamos tu caso

03.

Preparamos la gestión

04.

Tu equipo realiza el curso

05.

Aplicas la bonificación

Hablar con un asesor

La formación que decides
te devuelve dinero

Todos nuestros cursos son bonificables a través de FUNDAE.
Gestionamos toda la documentación por ti.

100%Tramitación incluida

48hTiempo medio de gestión

9,4Satisfacción general

Calcula tu crédito aproximado

Empleados a formar10

Crédito bonificable estimado

420€*

*Cálculo orientativo

Confirmar mi crédito

Impacto real

Enfoque realmente operativo

Cubre amenazas actuales de LLMs y agentes Incluye prompt injection, RAG poisoning, data leakage, excessive agency, supply chain, tool abuse, model DoS, extracción de system prompts y debilidades vectoriales.

Conecta marcos reconocidos con controles reales Trabaja OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF, Google SAIF, NCSC/CISA y AI Act, pero traduciéndolos a prácticas de SecOps, AppSec, cloud y GRC.

Sirve para equipos técnicos y de gobierno Aporta valor a SOC, SecOps, AppSec, DevSecOps, AI Engineering, MLOps, Data, GRC, privacidad, legal e IT.

Prepara al SOC para nuevas superficies de ataque Incluye logging, detección, SIEM, SOAR, playbooks, forense, threat hunting y respuesta a incidentes específicos de IA.

Reduce el riesgo de despliegues IA inmaduros Ayuda a controlar pilotos, copilotos, RAG, agentes, modelos SaaS, conectores, proveedores y automatizaciones antes de que escalen sin gobierno.

Solicitar propuesta sin coste

Personaliza el temario al 100% para tu equipo

Diseñamos una formación a medida utilizando los documentos y flujos de trabajo reales de tu empresa.

Agendar cita con CTOAgendar cita con CTO

Nuestra plataforma

Nueva Plataforma
de E-learningFormación en directo con plataforma de apoyo para reforzar el aprendizaje

Acceso a las grabaciones

Los alumnos podrán revisar las sesiones grabadas para repasar conceptos clave, recuperar explicaciones concretas o reforzar aquellos contenidos que necesiten después de la clase en directo.

Recursos formativos

Materiales, sesiones grabadas y documentación de apoyo quedan centralizados en la plataforma para que el equipo pueda consultarlos durante y después de la formación.

Confirmación de asistencia

La plataforma permite registrar y confirmar la asistencia de los participantes, facilitando el seguimiento de la formación y la gestión documental necesaria para la bonificación FUNDAE.

Ejercicios prácticos

Después de la formación en directo, los alumnos podrán acceder a ejercicios prácticos para aplicar lo trabajado en clase y consolidar el aprendizaje con actividades guiadas.

Acceso a las grabaciones

Los alumnos podrán revisar las sesiones grabadas para repasar conceptos clave, recuperar explicaciones concretas o reforzar aquellos contenidos que necesiten después de la clase en directo.

Recursos formativos

Materiales, sesiones grabadas y documentación de apoyo quedan centralizados en la plataforma para que el equipo pueda consultarlos durante y después de la formación.

Confirmación de asistencia

La plataforma permite registrar y confirmar la asistencia de los participantes, facilitando el seguimiento de la formación y la gestión documental necesaria para la bonificación FUNDAE.

Ejercicios prácticos

Después de la formación en directo, los alumnos podrán acceder a ejercicios prácticos para aplicar lo trabajado en clase y consolidar el aprendizaje con actividades guiadas.

Practica y mejora con nuestra plataforma

Una plataforma practica, con IA integrada y pensada para que mejores desarrollando. Se adapta a tu ritmo, te corrige al instante y te muestra tu progreso real.

Correccion magica

Feedback inteligente

Aprende de cada acierto y fallo con explicaciones claras

Me interesa

Programa formativo

Temario del curso

Encuentra todo el temario del curso aquí.

Temario

¿Qué significa AISecOps y por qué no es simplemente “usar ChatGPT en el SOC”?
Diferenciar seguridad de IA, IA para seguridad, seguridad de aplicaciones con IA y gobierno de IA.
Entender cómo cambian las superficies de ataque cuando aparecen LLMs, RAG, agentes y herramientas conectadas.
Identificar nuevos activos: prompts, system prompts, embeddings, índices vectoriales, datasets, modelos, evaluaciones y herramientas.
Reconocer que una aplicación con IA puede fallar aunque su infraestructura cloud esté bien securizada.
Explicar el papel del SOC en detección, investigación, contención y aprendizaje sobre incidentes de IA.
Conectar AISecOps con AppSec, MLOps, LLMOps, DevSecOps, GRC, privacidad y arquitectura.
Definir qué se debe monitorizar: entradas, salidas, herramientas, costes, identidad, datos y comportamiento.
Aclarar qué límites tiene AISecOps: no elimina revisión humana, governance ni diseño seguro.
Plantear cómo se trabajará durante el curso: riesgos, controles, detecciones, playbooks, métricas y proyecto final.

¿Qué significa AISecOps y por qué no es simplemente “usar ChatGPT en el SOC”?
Diferenciar seguridad de IA, IA para seguridad, seguridad de aplicaciones con IA y gobierno de IA.
Entender cómo cambian las superficies de ataque cuando aparecen LLMs, RAG, agentes y herramientas conectadas.
Identificar nuevos activos: prompts, system prompts, embeddings, índices vectoriales, datasets, modelos, evaluaciones y herramientas.
Reconocer que una aplicación con IA puede fallar aunque su infraestructura cloud esté bien securizada.
Explicar el papel del SOC en detección, investigación, contención y aprendizaje sobre incidentes de IA.
Conectar AISecOps con AppSec, MLOps, LLMOps, DevSecOps, GRC, privacidad y arquitectura.
Definir qué se debe monitorizar: entradas, salidas, herramientas, costes, identidad, datos y comportamiento.
Aclarar qué límites tiene AISecOps: no elimina revisión humana, governance ni diseño seguro.
Plantear cómo se trabajará durante el curso: riesgos, controles, detecciones, playbooks, métricas y proyecto final.

¿Tienes dudas?

Estamos aquí para ayudarte

Reservar plaza

Tema 1: ¿Qué es AISecOps y por qué cambia la operación de seguridad?

¿Qué significa AISecOps y por qué no es simplemente “usar ChatGPT en el SOC”?
Diferenciar seguridad de IA, IA para seguridad, seguridad de aplicaciones con IA y gobierno de IA.
Entender cómo cambian las superficies de ataque cuando aparecen LLMs, RAG, agentes y herramientas conectadas.
Identificar nuevos activos: prompts, system prompts, embeddings, índices vectoriales, datasets, modelos, evaluaciones y herramientas.
Reconocer que una aplicación con IA puede fallar aunque su infraestructura cloud esté bien securizada.
Explicar el papel del SOC en detección, investigación, contención y aprendizaje sobre incidentes de IA.
Conectar AISecOps con AppSec, MLOps, LLMOps, DevSecOps, GRC, privacidad y arquitectura.
Definir qué se debe monitorizar: entradas, salidas, herramientas, costes, identidad, datos y comportamiento.
Aclarar qué límites tiene AISecOps: no elimina revisión humana, governance ni diseño seguro.
Plantear cómo se trabajará durante el curso: riesgos, controles, detecciones, playbooks, métricas y proyecto final.

Tema 2: El mapa de amenazas de IA que debe conocer un equipo de seguridad

Organizar amenazas por capa: usuario, prompt, aplicación, modelo, datos, herramientas, infraestructura y proveedor.
Diferenciar amenazas tradicionales de amenazas específicas de IA.
Revisar prompt injection, data leakage, model abuse, poisoning, jailbreaking, tool abuse y supply chain.
Analizar riesgos de modelos SaaS, modelos open source, APIs de inferencia y despliegues propios.
Entender el impacto de la excesiva autonomía en agentes conectados a correo, archivos, CRM, tickets, código o cloud.
Identificar riesgos de shadow AI y uso no autorizado de herramientas públicas.
Reconocer amenazas internas: empleados que suben datos sensibles, prompts inseguros o conectores mal configurados.
Mapear amenazas a controles preventivos, detectivos y correctivos.
Crear una taxonomía interna de incidentes de IA.
Mantener el mapa actualizado porque los patrones de ataque evolucionan rápidamente.

Tema 3: OWASP Top 10 for LLM Applications 2025 aplicado a operaciones

Traducir cada riesgo OWASP a controles operativos y no solo a teoría de desarrollo.
Entender prompt injection como manipulación del comportamiento del modelo mediante instrucciones directas o indirectas.
Tratar sensitive information disclosure como riesgo de fuga por prompts, contexto, memoria, logs o respuestas.
Revisar supply chain en modelos, datasets, librerías, plugins, conectores, prompts y proveedores.
Analizar data and model poisoning en entrenamiento, fine-tuning, RAG, embeddings y fuentes documentales.
Controlar improper output handling cuando la salida del LLM alimenta código, HTML, comandos, tickets o acciones.
Limitar excessive agency en agentes con permisos para escribir, borrar, enviar, comprar o modificar.
Prevenir system prompt leakage y exposición de instrucciones internas.
Revisar vector and embedding weaknesses en RAG, búsqueda semántica e índices vectoriales.
Crear un checklist operativo OWASP para revisiones periódicas de aplicaciones con IA.

Tema 4: MITRE ATLAS como base de threat hunting de IA

Entender MITRE ATLAS como knowledge base de tácticas y técnicas adversarias contra sistemas de IA.
Mapear técnicas ATLAS a casos reales de la organización.
Crear hipótesis de threat hunting sobre manipulación de inputs, abuso de modelos y evasión.
Relacionar ATLAS con MITRE ATT&CK para no separar IA del resto de la cadena de ataque.
Diseñar detecciones para reconocimiento, evasión, poisoning, exfiltración, impacto y persistencia en sistemas IA.
Usar ATLAS para enriquecer playbooks SOC y ejercicios de red teaming.
Crear una matriz interna de técnicas relevantes por tipo de sistema IA.
Documentar gaps de telemetría que impiden detectar técnicas concretas.
Incorporar aprendizaje de incidentes propios al mapa de amenazas.
Revisar ATLAS periódicamente como fuente viva y no como documento estático.

Tema 5: NIST AI RMF, SAIF y secure-by-design en AISecOps

Usar NIST AI RMF para alinear riesgos de IA con gobierno, medición, gestión y monitorización.
Incorporar el perfil de IA generativa NIST AI 600-1 para riesgos específicos de GenAI.
Entender SAIF de Google como marco de seguridad para construir y desplegar IA de forma segura por defecto.
Relacionar guías NCSC/CISA con diseño, desarrollo, despliegue y operación segura de IA.
Traducir marcos generales a controles técnicos: IAM, logging, evaluación, red teaming, supply chain y respuesta.
Evitar que governance sea solo documentación sin evidencias operativas.
Crear mapping entre frameworks, controles internos y herramientas existentes.
Establecer owners para cada control de IA.
Preparar evidencias auditables de cumplimiento y operación.
Diseñar un modelo de madurez AISecOps por fases.

Tema 6: Inventario de activos de IA y clasificación de riesgo

Localizar aplicaciones, copilotos, agentes, bots, RAG, modelos, APIs y herramientas SaaS con IA.
Identificar quién usa cada sistema, qué datos procesa y qué acciones puede ejecutar.
Registrar proveedor, modelo, versión, región, owner, entorno, criticidad y propósito.
Clasificar sistemas por impacto: productividad, soporte, cliente, código, finanzas, RRHH, seguridad o decisiones sensibles.
Diferenciar IA interna, IA embebida en SaaS e IA creada por equipos propios.
Detectar shadow AI mediante encuestas, proxy logs, CASB, EDR, DLP y revisión de compras.
Crear fichas de riesgo por sistema.
Priorizar controles según sensibilidad de datos y capacidad de acción.
Mantener inventario conectado con CMDB, GRC o repositorio de arquitectura.
Revisar inventario tras adquisiciones, nuevos SaaS, pilotos o cambios de modelo.

Tema 7: Gobierno operativo de IA: roles, políticas y ownership

Definir responsabilidades entre CISO, DPO, legal, IT, data, AI engineering, producto y negocio.
Crear política de uso de IA con casos permitidos, restringidos y prohibidos.
Establecer procesos de aprobación para nuevos sistemas de IA.
Definir owner funcional, owner técnico y owner de riesgo para cada aplicación.
Crear comité operativo de IA sin convertirlo en cuello de botella.
Definir criterios de alta, revisión, excepción, pausa y retirada de sistemas.
Establecer política de proveedores y evaluación de herramientas SaaS con IA.
Crear reglas para prompts, documentos, conectores, memoria, logs y retención.
Revisar cumplimiento de AI Act cuando aplique, especialmente para sistemas de alto riesgo.
Mantener evidencias de decisiones, excepciones y controles.

Tema 8: Arquitectura segura para aplicaciones con LLM

Diseñar una arquitectura con capas separadas: UI, API, orquestador, modelo, herramientas, datos y logging.
Evitar que el frontend llame directamente a modelos o proveedores con claves expuestas.
Crear gateway de IA para autenticación, autorización, rate limiting, filtrado y auditoría.
Separar system prompts, prompts de usuario, contexto recuperado y acciones ejecutables.
Validar entradas y salidas antes de conectarlas con sistemas internos.
Usar colas, límites y timeouts para operaciones costosas o críticas.
Implementar controles de coste y prevención de abuso.
Segmentar entornos de desarrollo, pruebas y producción.
Diseñar fallbacks cuando el modelo no responde o responde con baja confianza.
Documentar arquitectura con flujos de datos, permisos y riesgos.

Tema 9: Seguridad de prompts y system prompts

Tratar prompts como lógica de aplicación y no como texto informal.
Proteger system prompts frente a exposición accidental o extracción intencionada.
Versionar prompts críticos en repositorios controlados.
Revisar prompts con criterios de seguridad, privacidad, calidad y comportamiento.
Separar instrucciones permanentes, contexto dinámico y entrada de usuario.
Evitar incluir secretos, credenciales, tokens o información sensible dentro del prompt.
Diseñar prompts resistentes a instrucciones contradictorias.
Crear pruebas de prompt injection directas e indirectas.
Monitorizar intentos de revelar instrucciones internas.
Mantener un proceso de cambio, revisión y rollback para prompts críticos.

Tema 10: Prompt injection: prevención, detección y respuesta

Diferenciar prompt injection directa, indirecta, multi-turn y basada en documentos.
Entender que el riesgo aumenta cuando el modelo lee webs, PDFs, emails, tickets o fuentes no confiables.
Crear filtros de entrada para patrones evidentes sin confiar solo en listas negras.
Separar datos no confiables de instrucciones confiables.
Añadir políticas de no ejecución cuando una fuente externa contiene instrucciones.
Detectar intentos de override, jailbreak, roleplay malicioso o extracción de secretos.
Registrar prompts sospechosos para análisis posterior.
Diseñar respuestas seguras ante intentos de manipulación.
Probar controles con casos realistas y no solo con ejemplos obvios.
Crear playbook SOC para investigación de prompt injection.

Tema 11: Seguridad de RAG, embeddings y bases vectoriales

Inventariar fuentes que alimentan el RAG: documentos, wikis, tickets, repositorios, PDFs y webs.
Validar permisos antes de indexar documentos.
Evitar que un usuario recupere contenido al que no debería tener acceso.
Proteger índices vectoriales como activos sensibles.
Revisar chunking, metadatos, ranking y filtrado por permisos.
Detectar poisoning de fuentes documentales o inserción de instrucciones maliciosas en documentos.
Monitorizar consultas anómalas, scraping semántico y extracción masiva.
Diseñar respuestas con citas y fuentes para mejorar verificabilidad.
Crear proceso de retirada de documentos obsoletos o comprometidos.
Evaluar vector and embedding weaknesses como parte de la revisión OWASP.

Tema 12: Agentes de IA y tool use: autonomía bajo control

Identificar qué herramientas puede usar un agente: correo, calendario, CRM, tickets, repositorios, shell, cloud o documentos.
Clasificar acciones por riesgo: lectura, borrador, modificación, envío, borrado, compra o despliegue.
Aplicar human-in-the-loop para acciones sensibles.
Usar permisos mínimos y tokens con scopes reducidos.
Separar herramientas de lectura y escritura.
Registrar cada decisión, llamada a herramienta, input, output y resultado.
Limitar loops, profundidad de planificación, número de acciones y coste.
Detectar tool abuse, data exfiltration y ejecución inesperada.
Crear sandbox para pruebas de agentes.
Diseñar kill switch y pausa operativa para agentes en producción.

Tema 13: Identidades, permisos y secretos en sistemas de IA

Revisar identidades humanas, cuentas de servicio, API keys y tokens usados por IA.
Evitar claves compartidas entre usuarios, agentes y aplicaciones.
Aplicar rotación, expiración y vaulting de secretos.
Limitar permisos por caso de uso y entorno.
Usar autorización contextual cuando el modelo accede a datos corporativos.
Registrar qué usuario inició una acción y qué agente la ejecutó.
Evitar que agentes hereden permisos excesivos del desarrollador.
Revisar permisos tras cambios de rol, bajas o fin de pilotos.
Integrar IAM con SIEM, auditoría y GRC.
Crear revisiones periódicas de acceso para sistemas IA.

Tema 14: Protección de datos sensibles, DLP y privacidad

Clasificar datos antes de enviarlos a modelos o proveedores.
Detectar PII, PHI, credenciales, secretos, contratos, datos financieros y propiedad intelectual.
Aplicar DLP en prompts, adjuntos, logs, respuestas y conectores.
Minimizar datos enviados al modelo.
Anonimizar o seudonimizar datasets de prueba.
Evitar que logs de IA almacenen información sensible sin retención controlada.
Revisar políticas de procesamiento, residencia y subprocesadores de proveedores.
Crear controles para impedir subida de documentos no autorizados.
Gestionar derechos, borrado y retención cuando aplique.
Coordinar privacidad, legal y seguridad en casos de alto riesgo.

Tema 15: Seguridad de datos de entrenamiento, fine-tuning y evaluación

Controlar origen, licencia, calidad y sensibilidad de datasets.
Proteger datasets de entrenamiento, validación y evaluación frente a alteraciones.
Detectar data poisoning, contaminación, duplicados y datos no autorizados.
Mantener versionado de datasets y trazabilidad de cambios.
Separar entornos de preparación, entrenamiento y evaluación.
Documentar qué datos se usaron para fine-tuning o RAG.
Revisar riesgos de memorization y leakage.
Crear controles de acceso a datasets sensibles.
Evaluar modelos antes y después de cambios de datos.
Mantener evidencias para auditoría y reproducibilidad.

Tema 16: Supply chain de IA: modelos, librerías, datasets y proveedores

Inventariar modelos propios, modelos open source, APIs externas y SaaS de IA.
Revisar licencias, procedencia, mantenimiento y reputación de modelos.
Analizar riesgos de librerías, frameworks, imágenes de contenedor y notebooks.
Proteger pipelines CI/CD y repositorios que despliegan sistemas IA.
Escanear dependencias y vulnerabilidades.
Evaluar datasets de terceros y modelos descargados desde hubs públicos.
Revisar proveedores frente a seguridad, privacidad, retención y uso de datos.
Crear criterios de aprobación para nuevos modelos.
Documentar SBOM/AI-BOM cuando aplique.
Integrar supply chain de IA en gestión de terceros y AppSec.

Tema 17: Seguridad de APIs de modelos y gateways de IA

Proteger endpoints de inferencia con autenticación fuerte.
Aplicar rate limiting, cuotas, límites de tokens y control de coste.
Validar payloads, tipos de archivo, tamaño y contenido.
Filtrar llamadas no autorizadas desde aplicaciones internas.
Centralizar políticas en un AI gateway.
Monitorizar errores, latencia, consumo, anomalías y abuso.
Registrar metadatos suficientes sin exponer datos sensibles.
Controlar versionado de modelos usados por cada aplicación.
Diseñar políticas de fallback y degradación segura.
Integrar gateway con SIEM, DLP, IAM y observabilidad.

Tema 18: Evaluación de seguridad y red teaming de IA

Diseñar pruebas ofensivas sobre prompts, RAG, agentes, herramientas y APIs.
Crear casos de jailbreak, prompt injection, data exfiltration y abuso de permisos.
Probar outputs peligrosos, sesgados, inseguros o no conformes.
Evaluar si el modelo revela system prompts o datos protegidos.
Testear agentes con instrucciones maliciosas y documentos contaminados.
Medir tasa de éxito de ataques y efectividad de controles.
Documentar hallazgos con severidad, evidencia y remediación.
Repetir pruebas tras cambios de modelo, prompt, proveedor o datos.
Diferenciar red teaming de QA funcional.
Crear un programa recurrente de AI red teaming.

Tema 19: Monitorización de modelos, prompts, costes y comportamiento

Definir telemetría mínima para sistemas IA.
Monitorizar volumen de prompts, errores, coste, latencia, tokens y ratio de fallos.
Detectar patrones de abuso, scraping, extracción, automatización maliciosa o uso fuera de horario.
Medir drift de comportamiento, degradación de calidad y cambios inesperados.
Registrar versiones de prompt, modelo, datos y tools.
Crear alertas por picos de coste o consumo.
Monitorizar respuestas bloqueadas, escaladas y fallos de política.
Integrar observabilidad con herramientas existentes.
Evitar logging excesivo de contenido sensible.
Revisar métricas con equipo de seguridad, producto y data.

Tema 20: Logging seguro y evidencias para investigación

Decidir qué registrar: metadatos, usuario, sistema, modelo, prompt hash, tool call, resultado y decisión.
Evitar guardar prompts completos cuando contienen datos sensibles, salvo justificación y protección.
Aplicar retención, cifrado y acceso limitado a logs.
Registrar acciones ejecutadas por agentes de forma auditada.
Mantener correlación entre evento de IA, identidad y sistema afectado.
Enriquecer logs con clasificación de riesgo.
Crear trazabilidad suficiente para reproducir incidentes.
Conservar evidencias de red teaming, evaluaciones y excepciones.
Integrar logs con SIEM respetando privacidad.
Diseñar logging pensando en investigación, no solo en debugging.

Tema 21: Integración con SIEM, SOAR y SOC

Enviar eventos relevantes de IA al SIEM.
Normalizar campos: usuario, app, modelo, proveedor, riesgo, tool, acción y resultado.
Crear reglas de detección para prompt injection, abuso de costes, exfiltración y uso no autorizado.
Integrar alertas AISecOps con playbooks SOAR.
Crear dashboards SOC específicos para IA.
Correlacionar eventos de IA con EDR, IAM, CASB, proxy, DLP y cloud logs.
Evitar alertas ruidosas sin contexto de negocio.
Diseñar enriquecimientos automáticos para investigación.
Crear rutas de escalado a AppSec, legal, data o owner del sistema.
Medir MTTD y MTTR de incidentes de IA.

Tema 22: Detección de abuso, fraude y uso malicioso de IA

Identificar patrones de abuso de copilotos, chatbots, APIs y agentes.
Detectar intentos de exfiltrar información mediante preguntas repetidas o fragmentadas.
Monitorizar uso excesivo, scraping semántico y enumeración de documentos.
Detectar generación de contenido prohibido, phishing, malware o instrucciones dañinas cuando aplique.
Revisar anomalías por usuario, rol, equipo, horario, país y volumen.
Crear detecciones basadas en comportamiento, no solo en palabras clave.
Investigar abuso interno y externo con procedimiento claro.
Coordinar con HR, legal y privacidad en casos sensibles.
Crear medidas de contención: bloqueo, throttling, revocación de permisos o pausa del sistema.
Documentar aprendizaje para mejorar controles preventivos.

Tema 23: Respuesta a incidentes de IA

Definir qué se considera incidente de IA.
Clasificar incidentes: fuga de datos, prompt injection, abuso de agente, poisoning, coste anómalo, salida dañina o acceso no autorizado.
Crear playbooks por tipo de incidente.
Contener sistemas: revocar tokens, pausar agente, bloquear conector, cambiar prompt o desconectar fuente.
Preservar evidencias sin exponer más datos sensibles.
Evaluar impacto sobre usuarios, datos, clientes, cumplimiento y sistemas conectados.
Coordinar comunicación interna con legal, privacidad, CISO y negocio.
Gestionar notificaciones regulatorias si procede.
Ejecutar postmortem con acciones correctivas.
Actualizar controles, prompts, detecciones y formación tras el incidente.

Tema 24: Forense en aplicaciones con IA

Reconstruir línea temporal de prompts, respuestas, herramientas y acciones.
Identificar origen de la instrucción maliciosa: usuario, documento, web, email, conector o agente.
Analizar logs de RAG, retrieval, tool calls y permisos.
Revisar si hubo exposición de datos, modificación de sistemas o impacto económico.
Conservar artefactos: prompts, archivos, embeddings, outputs, tokens y versiones.
Diferenciar fallo de modelo, fallo de diseño, abuso de usuario y error de configuración.
Coordinar evidencia técnica con requisitos legales.
Preparar informe forense comprensible para dirección.
Incorporar indicadores al SIEM para detección futura.
Cerrar investigación con remediación verificable.

Tema 25: Seguridad en copilotos corporativos y asistentes internos

Revisar asistentes de Microsoft 365, Google Workspace, Slack, CRM, ITSM y herramientas internas.
Evaluar permisos heredados de documentos, correos, tickets y chats.
Prevenir oversharing por mala gestión de permisos.
Crear políticas de qué puede consultar un copiloto y para qué perfiles.
Monitorizar consultas sobre información sensible.
Revisar conectores, memoria, historial y retención.
Crear campañas de limpieza de permisos antes de activar copilotos amplios.
Detectar respuestas que citan fuentes no autorizadas.
Formar usuarios en preguntas seguras y límites.
Crear dashboards de adopción y riesgo para copilotos internos.

Tema 26: Uso de IA dentro del SOC: beneficios y riesgos

Usar IA para resumir alertas, explicar logs, generar queries y preparar informes.
Evitar que IA tome decisiones de contención sin validación humana.
Proteger datos de incidentes, IPs internas, usernames, hosts y evidencias.
Crear prompts seguros para análisis de alertas.
Validar hipótesis generadas por IA con datos reales.
Usar IA para acelerar documentación de incidentes y postmortems.
Revisar outputs antes de enviarlos a dirección o cliente.
Evitar dependencia excesiva de IA en analistas junior.
Medir ahorro de tiempo y calidad de investigación.
Crear política específica de IA para operaciones de seguridad.

Tema 27: Detección engineering con ayuda de IA

Generar borradores de reglas Sigma, KQL, SPL, YARA o consultas SIEM con revisión humana.
Pedir explicaciones de detecciones existentes.
Transformar hipótesis MITRE ATLAS o ATT&CK en lógica de detección.
Crear queries para correlacionar eventos de IA con IAM, cloud y proxy.
Validar reglas con datos históricos o logs sintéticos.
Evitar desplegar detecciones generadas sin pruebas.
Documentar objetivo, fuentes de log, falsos positivos y severidad.
Usar IA para crear pruebas unitarias de detecciones cuando aplique.
Mantener control de versiones de reglas.
Medir efectividad real de detecciones asistidas por IA.

Tema 28: Gestión de vulnerabilidades en sistemas de IA

Incluir aplicaciones IA en el programa de vulnerability management.
Evaluar vulnerabilidades de dependencias, APIs, contenedores, notebooks y pipelines.
Revisar vulnerabilidades lógicas no detectables por scanners clásicos.
Clasificar hallazgos de prompt injection, RAG leakage o excessive agency con severidad.
Crear backlog de remediación con owners.
Integrar resultados de red teaming en gestión de vulnerabilidades.
Revisar proveedores y componentes IA en revisiones periódicas.
Establecer SLAs según criticidad del sistema.
Validar remediaciones con pruebas repetidas.
Reportar postura de seguridad IA a CISO y GRC.

Tema 29: Cloud, contenedores y despliegue seguro de IA

Proteger infraestructura donde se ejecutan modelos, orquestadores, gateways y APIs.
Aplicar hardening de contenedores y Kubernetes cuando se despliega IA propia.
Gestionar secretos, service accounts y permisos cloud.
Segmentar redes y limitar salida hacia proveedores externos.
Monitorizar almacenamiento de datasets, embeddings, prompts y logs.
Revisar GPU workloads, notebooks y entornos de experimentación.
Evitar entornos de data science expuestos sin control.
Crear políticas de IaC y revisión de configuración.
Integrar runtime security y cloud posture management.
Diseñar despliegues reproducibles y auditables.

Tema 30: Seguridad en notebooks, laboratorios y experimentación

Controlar notebooks con datos, claves, librerías y modelos.
Evitar que entornos de experimentación se conviertan en producción oculta.
Gestionar acceso a notebooks, kernels, outputs y archivos temporales.
Escanear paquetes instalados y dependencias.
Prohibir credenciales hardcodeadas.
Separar datasets reales de datasets de prueba.
Revisar conexiones a internet y descarga de modelos.
Versionar experimentos relevantes.
Limpiar outputs que contienen datos sensibles.
Crear políticas para laboratorios de IA seguros.

Tema 31: Terceros, SaaS con IA y evaluación de proveedores

Evaluar proveedores de IA antes de compra o activación.
Revisar uso de datos para entrenamiento, retención, residencia, subprocesadores y borrado.
Analizar certificaciones, auditorías, cifrado, IAM y controles de acceso.
Exigir documentación de seguridad y privacidad.
Clasificar proveedores según datos tratados y acciones permitidas.
Revisar cláusulas contractuales de IA, confidencialidad, seguridad y auditoría.
Crear cuestionario específico para SaaS con IA.
Monitorizar cambios de funciones IA en herramientas ya contratadas.
Evitar activar features IA por defecto sin evaluación.
Integrar evaluación de IA en vendor risk management.

Tema 32: Compliance, AI Act y evidencias operativas

Identificar si un sistema de IA puede estar sujeto a obligaciones regulatorias.
Revisar clasificación de riesgo, documentación, logs, supervisión humana y calidad de datos.
Entender que el AI Act es el marco legal europeo armonizado para IA y se basa en un enfoque de riesgo.
Preparar evidencias de controles técnicos y organizativos.
Mapear controles AISecOps a requisitos de privacidad, seguridad, auditoría y gestión de riesgos.
Crear registros de sistema, finalidad, datos, propietarios y evaluaciones.
Mantener trazabilidad de cambios de modelo, prompt, proveedor y dataset.
Coordinar GRC, DPO, legal, seguridad y negocio.
Evitar tratar cumplimiento como tarea documental separada de la operación.
Crear un paquete mínimo de evidencias para auditoría de IA.

Tema 33: Métricas y KPIs de AISecOps

Definir cobertura de inventario de sistemas IA.
Medir sistemas con owner, clasificación de riesgo y controles mínimos.
Medir pruebas de red teaming realizadas y hallazgos abiertos.
Medir alertas de IA, falsos positivos, MTTD, MTTR y severidad.
Medir costes anómalos, uso bloqueado, intentos de prompt injection y fugas evitadas.
Medir porcentaje de RAG con permisos verificados.
Medir revisiones de proveedores, prompts versionados y agentes con human-in-the-loop.
Crear dashboards para CISO, SOC, GRC y equipos de producto.
Evitar métricas vanidosas como “número de prompts” sin relación con riesgo.
Usar métricas para priorizar inversión y mejora continua.

Tema 34: Formación, adopción y cultura segura de IA

Formar usuarios en qué datos no deben introducir en herramientas IA.
Crear guías por perfil: usuario general, developer, analista, SOC, legal, RRHH y dirección.
Explicar riesgos con ejemplos claros: prompt injection, fuga de datos, agentes excesivos y shadow AI.
Diseñar campañas de concienciación sin bloquear la innovación.
Crear canal de consulta para dudas sobre uso seguro de IA.
Formar a equipos técnicos en patrones seguros de arquitectura IA.
Formar al SOC en investigación de eventos IA.
Crear simulacros de incidentes de IA.
Actualizar formación cuando cambien herramientas o políticas.
Medir adopción segura, no solo adopción rápida.

Tema 35: Roadmap de implantación AISecOps

Empezar por inventario, políticas mínimas y clasificación de riesgos.
Seleccionar sistemas críticos para revisión profunda.
Implantar logging y telemetría mínima.
Conectar eventos relevantes al SIEM.
Crear controles preventivos para datos sensibles y agentes.
Lanzar red teaming inicial de aplicaciones IA prioritarias.
Crear playbooks de respuesta a incidentes.
Establecer comité operativo y owner por sistema.
Medir madurez trimestralmente.
Escalar desde controles básicos hasta operaciones avanzadas y automatización.

Tema 36: Errores frecuentes en seguridad de IA

Activar copilotos sin revisar permisos de documentos.
Conectar agentes a herramientas críticas sin human-in-the-loop.
Guardar prompts y respuestas con datos sensibles en logs inseguros.
Usar modelos o datasets externos sin evaluación de supply chain.
Confiar en filtros de contenido como único control.
No integrar eventos de IA en el SOC.
No versionar prompts, modelos ni fuentes RAG.
Tratar prompt injection como curiosidad y no como amenaza operativa.
Automatizar respuestas del SOC con IA sin validación.
Crear políticas de IA sin controles técnicos que las hagan cumplir.

Tema 37: Proyecto final integrador de AISecOps

Seleccionar un sistema ficticio o anonimizado con LLM, RAG, agentes o copiloto interno.
Crear inventario del sistema, datos tratados, usuarios, herramientas, proveedores y riesgos.
Clasificar amenazas usando OWASP LLM Top 10 y MITRE ATLAS.
Diseñar arquitectura segura con gateway, IAM, logging, DLP, RAG seguro y human-in-the-loop.
Crear plan de red teaming con pruebas de prompt injection, RAG poisoning, leakage y tool abuse.
Definir eventos de seguridad y reglas de detección para SIEM.
Preparar playbooks de respuesta a incidentes de IA.
Diseñar dashboard AISecOps con KPIs técnicos, operativos y de riesgo.
Mapear controles a NIST AI RMF, guías secure-by-design y políticas internas.
Presentar el modelo final como plan operativo listo para implantar en una organización.

Perfiles profesionales

Pensado para quienes deben dominar AISecOps (AI Security Operations) en su día a día

Equipos SOC, SecOps y respuesta a incidentes

Profesionales responsables de monitorizar eventos, detectar amenazas, investigar alertas, responder incidentes y adaptar capacidades de seguridad a nuevos riesgos introducidos por LLMs, agentes, automatizaciones y aplicaciones con IA.

AppSec, DevSecOps y arquitectos cloud

Perfiles que diseñan, revisan y protegen aplicaciones, APIs, pipelines, identidades, despliegues, secretos, dependencias y entornos donde la IA se integra con sistemas corporativos.

MLOps, LLMOps, data engineers y AI engineers

Equipos que construyen, despliegan o mantienen modelos, RAG, embeddings, pipelines de entrenamiento, fine-tuning, evaluación, inferencia, observabilidad, agentes y capas de datos.

Responsables de GRC, compliance, privacidad y legal

Profesionales que deben convertir requisitos de seguridad, privacidad, AI Act, NIST AI RMF, políticas internas y auditoría en controles operativos aplicables a sistemas de IA.

CISOs, responsables de seguridad y líderes de plataforma

Personas que necesitan definir estrategia, gobierno, métricas, roles, budget, roadmap, modelo operativo y prioridades de inversión para proteger IA en producción.

Equipos de producto, innovación y transformación digital

Áreas que están desplegando asistentes, copilotos, agentes, workflows, RAG, automatizaciones con IA o herramientas SaaS con IA, y necesitan entender qué riesgos se introducen antes de escalar.

¿Tienes dudas?

ContáctanosContacta con nosotros

Casos de éxito

Empresas que ya han formado a sus equipos

Experiencias reales de equipos que ya han trabajado con nosotros.

+16

años de liderazgo

+3.500

empresas formadas

Nuestra empresa decidió contratar formación con Imagina aprovechando los créditos de FUNDAE, y fue una gran decisión. La modalidad online nos permitió adaptar los horarios a nuestro equipo. La formación ha sido práctica, clara y útil para el día a día. Es sencillo de gestionar y los resultados son excepcionales.

Hugo Gutiérrez

Analista Financiero

Gracias a Imagina, la eficiencia de nuestras sesiones de capacitación ha mejorado drásticamente. Es sencillo de usar y los resultados son excepcionales.

Luis Martínez

Administrativo

Gracias al aula virtual de Imagina siempre son capaces de adaptar los cursos a nuestras necesidades. El contenido fue muy completo y práctico.

Elena Pérez

Responsable de Recursos Humanos

Mejor de lo esperado, la modalidad online se adapta a nuestros horarios. La ayuda con la bonificación FUNDAE hizo todo más fácil. Práctico y necesario.

Alejandro Sánchez

Director de Operaciones

Hugo Gutiérrez

Analista Financiero

Gracias a Imagina, la eficiencia de nuestras sesiones de capacitación ha mejorado drásticamente. Es sencillo de usar y los resultados son excepcionales.

Luis Martínez

Administrativo

Gracias al aula virtual de Imagina siempre son capaces de adaptar los cursos a nuestras necesidades. El contenido fue muy completo y práctico.

Elena Pérez

Responsable de Recursos Humanos

Mejor de lo esperado, la modalidad online se adapta a nuestros horarios. La ayuda con la bonificación FUNDAE hizo todo más fácil. Práctico y necesario.

Alejandro Sánchez

Director de Operaciones

+16

años de liderazgo

+3.500

empresas formadas

Hugo Gutiérrez

Analista Financiero

Gracias a Imagina, la eficiencia de nuestras sesiones de capacitación ha mejorado drásticamente. Es sencillo de usar y los resultados son excepcionales.

Luis Martínez

Administrativo

Gracias al aula virtual de Imagina siempre son capaces de adaptar los cursos a nuestras necesidades. El contenido fue muy completo y práctico.

Elena Pérez

Responsable de Recursos Humanos

Mejor de lo esperado, la modalidad online se adapta a nuestros horarios. La ayuda con la bonificación FUNDAE hizo todo más fácil. Práctico y necesario.

Alejandro Sánchez

Director de Operaciones

Hugo Gutiérrez

Analista Financiero

Gracias a Imagina, la eficiencia de nuestras sesiones de capacitación ha mejorado drásticamente. Es sencillo de usar y los resultados son excepcionales.

Luis Martínez

Administrativo

Gracias al aula virtual de Imagina siempre son capaces de adaptar los cursos a nuestras necesidades. El contenido fue muy completo y práctico.

Elena Pérez

Responsable de Recursos Humanos

Mejor de lo esperado, la modalidad online se adapta a nuestros horarios. La ayuda con la bonificación FUNDAE hizo todo más fácil. Práctico y necesario.

Alejandro Sánchez

Director de Operaciones

480.000 alumnos formados en Imagina

Ver todas las opiniones

Preguntas frecuentes

Resolvemos todas tus dudas sobre nuestra formación en AISecOps (AI Security Operations)

Explora las respuestas a las preguntas que guian a nuestra comunidad. Aqui encontraras claridad sobre como funciona todo, desde el acceso hasta los detalles de los cursos. Si buscas respuestas, este es el lugar para comenzar.

AISecOps es la disciplina que adapta Security Operations a sistemas de inteligencia artificial, combinando protección de IA, monitorización, detección, respuesta, gobierno, red teaming y mejora continua.

¿Tienes dudas?
Estamos aqui para ayudarte

Contactar

¿Tienes dudas?
Estamos aqui para ayudarte

Contactar

Recursos extra

Descubre nuestros tutoriales

Automatización con Microsoft

Qué es Microsoft Power Automate y para qué sirve

November 05, 2025

Descubre Que es Microsoft Power Automate o Microsoft Flow: Guía Completa de la Herramienta de Automatización de Tareas de Microsoft

Seguridad

¿Qué es Kali Linux y para qué se utiliza?

June 17, 2025

Descubre cómo instalar Kali Linux fácilmente y empieza a usar esta herramienta esencial para pruebas de penetración y análisis forense digital.

Recursos Humanos

Top 5 Cursos Bonificados para Trabajadores en 2025

June 09, 2025

Conoce los cursos bonificados para trabajadores 2025 más demandados y cómo puedes inscribir a tus empleados para aprovechar los créditos formativos de FUNDAE.

Prevención

5 Cursos Obligatorios para cualquier Empresa en 2025

May 26, 2025

Conoce los cursos obligatorios para empresas 2025 y cómo asegurar que tu organización cumpla con las normativas actuales sin riesgos de sanciones.

Recursos Humanos

Cursos Bonificados por Fundación Tripartita en 2025

May 05, 2025

Descubre los mejores cursos bonificados para empresas en 2025 por la Fundación Tripartita. Aumenta la productividad de tu equipo sin costes adicionales.

Recursos extra

Para que aprendas mensualmente
con nosotros

Tutoriales

Nuestra colección de contenido educacional

Qué es Microsoft Power Automate y para qué sirve

¿Qué es Kali Linux y para qué se utiliza?

Top 5 Cursos Bonificados para Trabajadores en 2025

5 Cursos Obligatorios para cualquier Empresa en 2025

Cursos Bonificados por Fundación Tripartita en 2025

Da el salto y aprende con nuestros cursos

Solicita información

Diseñemos hoy el curso que tu empresa necesita

Cuéntanos tus objetivos de negocio y prepararemos una propuesta formativa bonificable totalmente ad hoc

Solicitar presupuesto personalizado

Curso de AISecOps (AI Security Operations)

Aprende con el curso de AISecOps (AI Security Operations) para empresas hasta 100% bonificado, a medida para tu organización.

Modalidad Aula Virtual Personalizada

Curso de AISecOps (AI Security Operations) hasta 100% Bonificable a través de FUNDAE

Tu bonificación paso a paso

La formación que decideste devuelve dinero

Enfoque realmente operativo

Cubre amenazas actuales de LLMs y agentes Incluye prompt injection, RAG poisoning, data leakage, excessive agency, supply chain, tool abuse, model DoS, extracción de system prompts y debilidades vectoriales.

Conecta marcos reconocidos con controles reales Trabaja OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF, Google SAIF, NCSC/CISA y AI Act, pero traduciéndolos a prácticas de SecOps, AppSec, cloud y GRC.

Sirve para equipos técnicos y de gobierno Aporta valor a SOC, SecOps, AppSec, DevSecOps, AI Engineering, MLOps, Data, GRC, privacidad, legal e IT.

Prepara al SOC para nuevas superficies de ataque Incluye logging, detección, SIEM, SOAR, playbooks, forense, threat hunting y respuesta a incidentes específicos de IA.

Reduce el riesgo de despliegues IA inmaduros Ayuda a controlar pilotos, copilotos, RAG, agentes, modelos SaaS, conectores, proveedores y automatizaciones antes de que escalen sin gobierno.

Personaliza el temario al 100% para tu equipo

Nueva Plataformade E-learningFormación en directo con plataforma de apoyo para reforzar el aprendizaje

Acceso a las grabaciones

Recursos formativos

Confirmación de asistencia

Ejercicios prácticos

Acceso a las grabaciones

Recursos formativos

Confirmación de asistencia

Ejercicios prácticos

Practica y mejora con nuestra plataforma

Temario del curso

Pensado para quienes deben dominar AISecOps (AI Security Operations) en su día a día

Empresas que ya han formado a sus equipos

Resolvemos todas tus dudas sobre nuestra formación en AISecOps (AI Security Operations)

Descubre nuestros tutoriales

Qué es Microsoft Power Automate y para qué sirve

¿Qué es Kali Linux y para qué se utiliza?

Top 5 Cursos Bonificados para Trabajadores en 2025

5 Cursos Obligatorios para cualquier Empresa en 2025

Cursos Bonificados por Fundación Tripartita en 2025

Para que aprendas mensualmentecon nosotros

Nuestra colección de contenido educacional

Da el salto y aprende con nuestros cursos

Diseñemos hoy el curso que tu empresa necesita

Temario del curso

La formación que decides
te devuelve dinero

Nueva Plataforma
de E-learningFormación en directo con plataforma de apoyo para reforzar el aprendizaje

Para que aprendas mensualmente
con nosotros