Formación corporativa en Spring AI

En este módulo se configura el entorno de desarrollo para trabajar con Spring AI. Se parte desde la creación de un proyecto con Spring Initializr, pasando por la selección de dependencias y starters adecuados para cada proveedor de IA, hasta la configuración segura de API keys mediante propiedades de Spring Boot y variables de entorno.

El objetivo es que al finalizar el módulo se disponga de un proyecto Spring Boot funcional capaz de comunicarse con un modelo de lenguaje. Se construye paso a paso un primer endpoint REST que envia un mensaje a un LLM y devuelve la respuesta, sirviendo como base practica para todos los módulos posteriores del curso.

La configuración abarca tanto proveedores en la nube (OpenAI, Anthropic) como modelos locales a través de Ollama, de modo que cada desarrollador pueda elegir la opción que mejor se adapte a su entorno de trabajo.

Este módulo profundiza en las dos interfaces principales de Spring AI para interactuar con modelos de chat: ChatClient y ChatModel. Se analiza la API fluida de ChatClient, el sistema de mensajes basado en roles (system, user, assistant) y las opciones de streaming para recibir respuestas token a token en tiempo real.

Se trabaja con conversaciones multi-turno, la configuración de parámetros por proveedor y el cambio transparente entre OpenAI, Anthropic y Ollama sin modificar la lógica de la aplicación. El módulo combina teoria sobre la arquitectura de Spring AI con ejemplos prácticos de endpoints REST y Server-Sent Events.

Al finalizar, el desarrollador será capaz de construir servicios conversacionales completos en Spring Boot, aprovechando las abstracciones del framework para mantener un código limpio y desacoplado del proveedor concreto de IA.

Este módulo aborda dos aspectos fundamentales de la interacción con modelos de lenguaje en Spring AI: el diseno de prompts mediante plantillas reutilizables y la conversión automática de respuestas del modelo a objetos Java con tipado fuerte.

Se estudian las clases PromptTemplate para componer prompts con variables dinámicas, las técnicas de prompt engineering aplicadas desde Java (system prompts, few-shot examples) y los distintos convertidores de salida estructurada: BeanOutputConverter para mapear a records o clases Java, MapOutputConverter y ListOutputConverter para estructuras genéricas, y la generación de respuestas JSON validadas automáticamente mediante JSON Schema.

El resultado es un flujo completo en el que el desarrollador define una plantilla, inyecta variables de contexto y obtiene directamente un objeto Java tipado como respuesta del modelo de IA, eliminando el parseo manual de texto.

El function calling permite que los modelos de lenguaje invoquen funciones Java como herramientas externas durante la generación de respuestas. Este módulo explica el flujo completo de ejecución: desde la definición de funciones con la anotación @Tool hasta la invocación automática por parte del modelo.

Se trabaja con ToolCallback, el registro declarativo de herramientas, la validación de parámetros tipados y el manejo de errores en la ejecución. También se aborda el function calling paralelo, donde el modelo solicita la ejecución simultanea de varias herramientas en una sola interacción.

Al finalizar el módulo, el desarrollador podrá extender las capacidades de cualquier modelo de lenguaje conectandolo con servicios Java existentes: consultas a bases de datos, llamadas a APIs externas, cálculos de negocio o cualquier operación que el modelo no pueda realizar por si mismo.

Los embeddings son representaciones numéricas de texto que permiten realizar busquedas semánticas. Este módulo cubre la generación de embeddings con EmbeddingModel, el almacenamiento en bases de datos vectoriales a través de la interfaz VectorStore y la carga y fragmentación de documentos mediante el pipeline ETL de Spring AI.

Se configuran implementaciones concretas como PGVector (PostgreSQL) y ChromaDB, se trabaja con DocumentReader para ingestar documentos desde distintas fuentes (PDF, texto, JSON) y se aplican estrategias de text splitting con TokenTextSplitter para fragmentar documentos extensos manteniendo la coherencia semántica.

Este módulo sienta las bases para construir pipelines RAG completos, ya que la calidad de los embeddings y la fragmentación de documentos determinan directamente la precisión de la busqueda semántica posterior.

Retrieval Augmented Generation (RAG) es el patrón que permite enriquecer las respuestas de un modelo de lenguaje con información recuperada de fuentes externas. Este módulo construye un pipeline RAG completo en Java con Spring AI, desde la ingesta de documentos hasta la generación de respuestas aumentadas con contexto relevante.

Se trabaja con QuestionAnswerAdvisor para inyectar automáticamente documentos recuperados en el prompt, con DocumentRetriever para realizar busquedas semánticas con umbrales de similitud y top-K, y con filtrado por metadatos para refinar los resultados de la busqueda vectorial.

El módulo aborda tanto el patrón Naive RAG (busqueda directa y augmentación) como estrategias mas avanzadas con RetrievalAugmentationAdvisor, proporcionando al desarrollador las herramientas necesarias para construir aplicaciones de IA que respondan con datos actualizados y específicos del dominio de negocio.

La evaluación sistematica de las respuestas generadas por modelos de IA es un paso crítico para garantizar la calidad en producción. Este módulo introduce las herramientas de evaluación de Spring AI, que permiten medir la relevancia, la fidelidad y la precisión de las respuestas generadas frente al contexto proporcionado.

Se trabaja con RelevancyEvaluator para evaluar si las respuestas son pertinentes al contexto recuperado, se disenan datasets de prueba con pares pregunta-respuesta esperada y se analizan metricas de calidad como faithfulness, answer relevancy, context precisión y recall.

El objetivo es establecer un flujo de evaluación automatizado que permita detectar regresiones, comparar modelos y validar cambios en prompts o en la configuración del pipeline RAG antes de desplegar en producción.

Desplegar aplicaciones con IA integrada en producción requiere abordar aspectos de observabilidad, resiliencia, rendimiento y seguridad que van mas allá de la funcionalidad básica. Este módulo cubre los patrones y herramientas necesarios para operar Spring AI en entornos reales con garantías de calidad de servicio.

Se implementa observabilidad con Micrometer para monitorizar latencia, consumo de tokens y costes, se configuran políticas de rate limiting y reintentos con circuit breaker, se aplica cache de respuestas para reducir costes y latencia, y se protegen los endpoints de IA con Spring Security.

También se abordan estrategias de selección multi-modelo para elegir el proveedor adecuado según el tipo de petición, el coste o la latencia requerida, proporcionando un marco completo para llevar aplicaciones Spring AI desde el prototipo hasta la operación a escala.