Una de las preguntas que más recibimos en Galtea es: ¿cómo puedo crear un conjunto sólido de casos de prueba para evaluar mi sistema de IA generativa? Y es una preocupación muy válida. Los equipos a menudo terminan lanzando productos basados en modelos generativos sin una estrategia de evaluación robusta. Es común depender de revisiones manuales poco estructuradas que, aunque útiles en las etapas iniciales, no son escalables ni fiables a medio plazo.
¿Por qué sucede esto? Porque construir una infraestructura de pruebas se percibe como una inversión grande, costosa y poco agradecida. Siempre hay algo más urgente: una funcionalidad que lanzar, un error que corregir, una demostración que preparar. Pero la realidad es que invertir en pruebas antes de que sea «necesario» es lo que diferencia a un sistema robusto y mantenible de uno que se rompe ante el primer cambio.
La buena noticia es que no necesitas hacerlo todo bien desde el principio. De hecho, el mejor enfoque es empezar «mal», pero empezar, e iterar a partir de ahí. En esta entrada del blog, te guiaremos sobre cómo abordar la generación de pruebas para tu sistema generativo de forma progresiva, eficiente y realista, y qué metodologías utilizamos en Galtea para ayudarte a lograrlo.
¿Por dónde empezar?
Nuestra primera recomendación es abordar la creación de pruebas como un proceso iterativo . En lugar de pasar semanas construyendo un conjunto de pruebas exhaustivo que podría no ser relevante dentro de seis meses, comienza con estos pasos:
- Define qué significa el éxito para tu sistema. ¿Buscas precisión? ¿Consistencia? ¿Seguridad? ¿Eficiencia conversacional?
- Crea un pequeño conjunto inicial de casos de prueba (por ejemplo, de 15 a 20) que reflejen ejemplos clave del comportamiento esperado.
- Implementa algunas métricas automáticas iniciales, aunque no sean perfectos.
- Verifica los resultados con revisores humanos, ajusta tus métricas y repite el proceso hasta obtener una correlación razonable entre tus métricas y el criterio humano.
Una vez establecida esa base, puedes escalar. Aquí es donde entran en juego las diversas metodologías de prueba que utilizamos en Galtea. Repasemos las principales.
Tipos de pruebas
A continuación, describimos los principales tipos de pruebas que recomendamos según la complejidad y el nivel de personalización del sistema.
1. Red Teaming
Uno de los primeros tipos de pruebas que recomendamos a las empresas que trabajan con sistemas generativos es el red teaming. El objetivo aquí es claro: evaluar cómo responde el sistema ante entradas malintencionadas, adversarias o inesperadas. Aunque el red teaming proviene originalmente de la ciberseguridad ofensiva, en IA generativa tiene un alcance más amplio, que abarca la inyección de prompts, intenciones manipuladoras, generación de contenido tóxico o sesgado, intentos de extraer datos confidenciales o incluso preguntas fuera de contexto (por ejemplo, un usuario de un copiloto legal preguntando quién ganará la próxima Champions League😅).
En Galtea, hemos creado y mantenemos una base de datos extensa y actualizada con miles de ejemplos de ataques, categorizados por tipo y etiquetados para su reutilización. Esta base de datos sirve como punto de partida para generar pruebas adaptadas al contexto específico de cada sistema.
El proceso comienza identificando los riesgos más relevantes según el dominio del producto. Por ejemplo, un asistente de RR. HH. debe ser robusto frente a sesgos de género o raciales, mientras que un asistente legal debe evitar alucinar normativas o jurisprudencia inexistentes. A partir de esa priorización, seleccionamos subconjuntos de ataques representativos y los adaptamos al caso de uso del cliente, incorporando su lenguaje, interfaz y entidades comunes.
Una vez generados estos casos, se evalúan mediante métricas que cuantifican la seguridad y robustez del sistema. Por ejemplo, comprobamos si se reprodujo contenido ofensivo (nivel de toxicidad), si el sistema resistió prompts manipuladores (resiliencia al jailbreak), si aparecen sesgos sistemáticos (detección de sesgos) o si reveló información restringida (resiliencia a la fuga de datos). Estas métricas pueden automatizarse o utilizarse en ciclos de revisión humana.
2. Generación de Golden Standard (RAG y Tool Calling)
Al evaluar sistemas generativos que dependen de fuentes externas, ya sea mediante recuperación (RAG) o uso de herramientas, es fundamental contar con una referencia de salida fiable: un estándar de oro. Se trata del resultado ideal esperado ante una entrada específica y los recursos de información disponibles.
En los sistemas RAG que trabajan con información no estructurada, el objetivo es verificar que el modelo haya comprendido correctamente la entrada, recuperado el contexto relevante y generado una respuesta precisa, coherente y fiel a la fuente. Esto implica un proceso complejo. Los documentos originales (PDF, HTML, DOCX, etc.) se analizan y dividen en fragmentos informativos mediante técnicas de segmentación inteligente. Esto no es trivial; una mala segmentación puede diluir la información o añadir ruido. En Galtea, utilizamos estrategias híbridas que combinan la segmentación semántica con reglas estructurales, como la detección de encabezados o cambios de tema.
A continuación, se realiza el filtrado y, una vez identificados los fragmentos relevantes, se agrupan por afinidad contextual para formar unidades de recuperación más sólidas. A partir de ellos, se generan pares de preguntas y respuestas sintéticas. La entrada simula una consulta real del usuario, mientras que la salida refleja la respuesta ideal del sistema según la evidencia disponible. Cada resultado incluye una puntuación de confianza para indicar el grado de respaldo de la fuente, lo que ayuda a calibrar los umbrales o a activar la validación humana si es necesario.
Cuando la fuente está estructurada, como en una base de datos relacional, el enfoque cambia. Evaluar sistemas de IA generativa que responden a preguntas sobre bases de datos presenta desafíos distintos. Incluso con datos precisos y organizados, la complejidad lógica y las relaciones entre tablas dificultan la generación de casos de prueba. En Galtea, utilizamos una estrategia que permite crear pruebas fiables sin tener que elaborar cada una manualmente.
El proceso comienza con una consulta SQL intermedia que refleja la lógica de negocio que se desea probar. Esta consulta devuelve una tabla de resultados que sirve como referencia objetiva o verdad fundamental, validada por humanos. Se añade una breve descripción en lenguaje natural para contextualizar el resultado y permitir la generación de pruebas comprensibles.
A partir de la tabla anotada, generamos preguntas en lenguaje natural cuyas respuestas pueden inferirse directamente de los datos. Cada entrada se traduce en una nueva consulta SQL que se ejecuta sobre la tabla de referencia, garantizando que el resultado esperado sea correcto y trazable. Esto cubre patrones de razonamiento como comparaciones, agregaciones, detección de mínimos y máximos, evolución temporal, etc.
Este enfoque traslada la complejidad al paso de creación de la consulta, liberando al modelo generativo de tener que navegar por relaciones de esquema complejas.
Para los sistemas que utilizan llamadas a herramientas, el enfoque se centra en si el modelo puede utilizar herramientas externas de manera efectiva. Primero, se definen formalmente las herramientas disponibles, sus API y las tareas que gestionan. Luego, se construyen entradas que, bajo ciertas condiciones, deberían activar una o más herramientas específicas. La salida esperada no es el texto generado, sino si se ejecutó la acción correcta (por ejemplo, una llamada a la API con los parámetros adecuados).
Tanto en los casos de uso de RAG como en los de uso de herramientas, las métricas van más allá de respuestas "agradables" o "creíbles". Se centran en indicadores de rendimiento más profundos: fidelidad a la fuente, corrección en el uso de herramientas, relevancia para el objetivo del usuario y precisión de los datos.
Estas pruebas son especialmente críticas en ámbitos donde la exactitud es más importante que la fluidez, como en aplicaciones legales, financieras o de soporte técnico.
3. Generación de usuarios sintéticos
Las pruebas unitarias y las evaluaciones de un solo paso tienen una limitación clara: no pueden evaluar cómo se comportan los sistemas generativos en escenarios conversacionales reales, donde el contexto, la memoria, los turnos de palabra y la toma de decisiones a largo plazo son clave para el éxito. Aquí es donde la generación de usuarios sintéticos surge como una metodología avanzada para simular interacciones realistas de múltiples turnos utilizando perfiles de usuario y escenarios configurables.
El enfoque de Galtea es modular y combina dos elementos clave: tipos de usuario y escenarios de interacción. Los tipos de usuario definen perfiles de comportamiento con rasgos ajustables, como el nivel de experiencia, el estilo de comunicación, la impaciencia o las preferencias de decisión. Estos pueden combinarse para crear arquetipos como el usuario experto, el confundido, el indeciso, el impaciente o el explorador. Cada perfil influye en el tono, el ritmo y las expectativas a lo largo de la conversación.
Los escenarios definen tareas orientadas a objetivos, como contratar un seguro, resolver un problema técnico o solicitar un reembolso. Estos se generan de forma procedimental a partir de diversas fuentes, formularios históricos, preguntas frecuentes, ontologías de dominio o documentación técnica. El resultado es un entorno de simulación coherente con contexto, restricciones y condiciones de éxito claramente definidas. Por ejemplo, un escenario podría requerir que el usuario complete una reserva sin errores, reciba una confirmación por correo electrónico o valide una condición específica a través de una herramienta externa.
Una vez definidos el escenario y el perfil de usuario, un agente de prueba, es decir, un modelo generativo que simula a un usuario sintético, interactúa con el sistema bajo prueba. Este agente opera basándose en prompts estructurados y una lógica de orquestación que lo guía para exhibir comportamientos específicos, como reformular preguntas cuando las respuestas son ambiguas, experimentar con estrategias alternativas para lograr un objetivo o terminar la interacción al alcanzar un límite de frustración predefinido. El sistema, a su vez, debe responder en tiempo real con precisión, adaptabilidad y eficiencia.
La interacción entre el usuario sintético y el sistema genera un registro conversacional que se analiza mediante métricas basadas en objetivos: si el escenario se completó con éxito, cuántos turnos tomó y si hubo desviaciones de comportamiento, inconsistencias o interrupciones en la conversación. Esto ofrece una visión holística, no solo de si el sistema da respuestas correctas, sino de si puede guiar a los usuarios hacia resultados exitosos en diversas situaciones.
Esta metodología permite una evaluación automatizada a gran escala en cientos de escenarios sin necesidad de intervención humana. También facilita las pruebas de regresión, la comparación de versiones y las pruebas de estrés utilizando perfiles de usuario de casos límite. Este enfoque es especialmente valioso en aplicaciones donde el éxito de la tarea y la experiencia del usuario son primordiales, como asistentes virtuales, bots de atención al cliente, flujos de incorporación y agentes transaccionales.
Conclusión
Construir un conjunto de pruebas sólido no tiene por qué ser una tarea abrumadora. Puedes empezar poco a poco, iterar de forma inteligente y escalar de manera controlada. La clave es dejar de depender únicamente del juicio humano y empezar a confiar en sistemas de evaluación que sean replicables, medibles y adaptados a tu caso de uso específico.
En Galtea, ayudamos a empresas de diversos sectores a construir su stack de pruebas de IA generativa sin perder la cabeza. Ya sea mediante red teaming, generación de estándares de oro o simulaciones de usuarios sintéticos, nuestro objetivo es brindarte visibilidad, confianza y control sobre tus sistemas generativos.
Si quieres saber más, reserva una demo con nosotros: Demo de Galtea
