La inteligencia artificial ya forma parte de muchas conversaciones dentro de la ciberseguridad, pero pasar de hablar de IA a entender cómo se prueba, cómo se ataca y cómo se protege requiere empezar a construir una base técnica diferente.

Hace unos días me encontré con Foundations of AI Security: A Practical Guide for Cybersecurity Professionals and Students, de Daniel W. Dieterle, y me pareció un libro interesante para quienes estamos comenzando a profundizar en el cruce entre inteligencia artificial y ciberseguridad.

Lo primero que me llamó la atención es que el libro no parte directamente de las técnicas de ataque. Primero construye una base sobre inteligencia artificial, modelos de lenguaje, tokenización y otros conceptos que ayudan a entender qué ocurre detrás de las aplicaciones que utilizan IA. Esa parte puede parecer introductoria para alguien que ya trabaja con estos sistemas, pero resulta útil cuando queremos pasar de utilizar herramientas de IA a comprender sus superficies de ataque.

A partir de ahí, el contenido se mueve hacia AI Security y empieza a conectar los conceptos de inteligencia artificial con problemas de seguridad que ya conocemos, además de riesgos propios de estos sistemas. En el material aparecen temas como prompt injection, jailbreaks, model extraction, data poisoning, ataques adversariales y exposición de información sensible, conceptos que se han convertido en parte importante de la conversación alrededor de la seguridad de aplicaciones y modelos de IA.

Lo que más me interesa del libro es precisamente esa transición entre conceptos y experimentación. Para quienes venimos del mundo de la ciberseguridad, aprender AI Security no debería quedarse en conocer la terminología. Hay una parte importante de laboratorio: observar cómo responde un sistema, diseñar pruebas, identificar comportamientos inesperados y entender qué controles pueden reducir esos riesgos.

El libro también entra en herramientas orientadas a probar la seguridad de aplicaciones de IA. Entre ellas aparecen Garak, Promptfoo y PyRIT, además de contenidos relacionados con MCP, agentes y herramientas utilizadas para interactuar con sistemas de IA. Esto abre una parte especialmente interesante para quienes trabajan o quieren trabajar desde una perspectiva de pentesting, red team o evaluación de seguridad.

También me llamó la atención que dedique espacio a conceptos relacionados con AI agents y MCP, porque el ecosistema de aplicaciones de IA está evolucionando rápidamente hacia sistemas capaces de utilizar herramientas, acceder a información y ejecutar acciones. Eso cambia la superficie que necesitamos considerar cuando hablamos de seguridad.

Y aquí está, para mí, una de las partes más interesantes de aprender AI Security: no se trata simplemente de agregar “IA” a lo que ya sabemos de ciberseguridad. Hay que entender qué cambia cuando tenemos modelos que procesan lenguaje, sistemas que generan respuestas, aplicaciones que dependen de contexto y agentes que pueden interactuar con otras herramientas.

Eso abre preguntas nuevas.

¿Qué ocurre cuando una instrucción maliciosa llega indirectamente a un modelo? ¿Cómo podemos probar si una aplicación está expuesta a determinados comportamientos? ¿Qué información puede terminar revelando un sistema? ¿Cómo evaluamos la seguridad de un agente que tiene acceso a herramientas externas? ¿Qué controles necesitamos antes de poner este tipo de sistemas en producción?

Son preguntas que van mucho más allá de aprender a utilizar un chatbot.

Por eso este libro se va directamente a mi lista de estudio. No necesariamente para leerlo de principio a fin como una novela, sino para estudiar algunos conceptos, llevarlos al laboratorio y experimentar.

Porque creo que esa es una de las mejores maneras de empezar a construir conocimiento en AI Security: leer, cuestionar, probar y volver a leer con lo que encontramos en el laboratorio.

Foundations of AI Security me parece una referencia interesante para quienes vienen de ciberseguridad y quieren comenzar a construir ese puente hacia la seguridad de sistemas de inteligencia artificial.

Ahora toca ver qué tanto hay aquí para llevarlo del libro al laboratorio. 👀💻