Curso de ciberseguridad de IA Red Teaming
Introduce a profesionales y entusiastas de la ciberseguridad en el AI Red Teaming. No se requieren conocimientos previos; descubre estrategias clave y herramientas para evaluar sistemas de IA.
Introducción al mundo del IA Red Teaming
Módulos
DISCLAIMER
Qué es el AI Red Teaming I
Qué es el AI Red Teaming II
Qué es el AI Red Teaming III
Qué es el AI Red Teaming IV
Diferencias con la ciberseguridad tradicional I
Diferencias con la ciberseguridad tradicional II
Diferencias con la ciberseguridad tradicional III
Principios I
Principios II
Principios III
Principios IV
Fases del ART
FASE 1 Planificación y modelado de amenazas I
FASE 1 Planificación y modelado de amenazas II
FASE 1 Planificación y modelado de amenazas III
FASE 1 Riesgos habituales
FASE 2 Evaluación del sistema de IA
FASE 2 Ejemplos de amenazas
FASE 3 Simulación y ejecución de pruebas
FASE 3 Técnicas comunes
FASE 3 Herramientas
FASE 3 Top 10 LLM OWASP (1-5)
FASE 3 Top 10 LLM OWASP (5-10)
FASE 4 Análisis, documentación y recomendaciones
FASE 4 Análisis, documentación y recomendaciones
EJEMPLO DE PLANTILLA
Técnicas: Prompt hacking
Tipos de técnicas
Conceptos básicos
A. Prompt injection I
A. Prompt injection II
A. Ejemplos de prompt injection I
A. Ejemplos de prompt injection II
B. Jailbreaking I
B. Ejemplos de jailbreaking
Entornos de pruebas I
Entornos de pruebas II
Técnica de defensa del prompt hacking
Técnica: Escaping defense
Técnica: Post-prompting defense
Técnica: Sandwich defense
Técnica: Few shots prompts
Conclusiones
Recursos
Agradecimiento