Lab 01: Del Lenguaje a la Matriz — Prompts, Tokens y Parámetros de Generación
Inspección interactiva de subpalabras BPE con tiktoken, asimetría de costes multilingües, delimitadores ChatML y variabilidad estocástica de temperatura (T=0.0 vs T>1.0).
Catálogo de 7 laboratorios ejecutables en Jupyter Notebooks (.ipynb) sobre OWASP Top 10 for LLM Applications y seguridad agéntica.
Inspección interactiva de subpalabras BPE con tiktoken, asimetría de costes multilingües, delimitadores ChatML y variabilidad estocástica de temperatura (T=0.0 vs T>1.0).
Simulación de secuestro de atención (QK^T), saturación de contexto y evaluación de guardrails de delimitación XML frente a modelos tradicionales x86 con bit NX.
Ataques de evasión mediante Typoglycemia, Unicode Smuggling, inyecciones indirectas en documentos y remediación con validadores semánticos y tests CI/CD.
Técnicas de exfiltración de directivas secretas (meta-prompt, format bypass), despliegue de Canary Tokens sintéticos y arquitectura con Output Redactors.
Explotación del ataque ConfusedPilot, envenenamiento de bases vectoriales ChromaDB/FAISS, fuga cross-tenant y pipeline blindado con prefiltrado y SHA-256.
Auditoría de RCE por diseño (exec en PALChain), SSRF contra endpoints de metadatos cloud y remediación con evaluadores AST restrictivos y validación DNS.
Tool Calling sin restricciones, manipulación de órdenes financieras, ataques Denial of Wallet por consumo desmedido y arquitectura Human-in-the-Loop (HITL) con HMAC.