El mito del RAG fácil: lo que aprendí perdiendo $4,200 en un fin de semana

Entre vikingos, salsas y la ilusión de la IA

Si alguna vez revisan las métricas de búsqueda en internet alrededor de las tres letras "RAG", verán un espectáculo curioso. Un usuario busca fotos de un gato de raza ragdoll. Otro busca la receta tradicional para preparar una salsa ragu italiana o un estofado ragout bien especiado. Un fanático de la televisión busca episodios sobre Ragnar Lothbrok, mientras un gamer averigua la fecha de lanzamiento de un juego sobre el Ragnarok. A la lista se suman búsquedas sobre el personaje Ragatha, y no falta el nostálgico que quiere escuchar a Rage Against the Machine a todo volumen para aguantar la jornada laboral.

Pero para quienes construimos software, la sigla RAG (Retrieval-Augmented Generation) representa algo muy diferente: la promesa de conectar modelos de lenguaje con la base de conocimientos de una empresa. La idea suena impecable en el papel. Tomas tus archivos, los conviertes en vectores, los guardas en una base de datos y dejas que un modelo responda preguntas. Suena tan simple que casi parece un truco de magia.

Lamentablemente, el software real no perdona la ingenuidad.

El día que un PDF casi nos cuesta un cliente

En noviembre de 2023, cerramos un contrato con una empresa constructora e ingenieril. Querían un asistente interno capaz de responder dudas sobre 3,200 manuales técnicos, normativas de seguridad y contratos antiguos. Yo venía de leer decenas de hilos en Twitter donde la gente afirmaba tener esto resuelto en un par de horas. "Hacemos un script rápido, metemos LangChain y listo", le dije a mi equipo.

Tardamos tres días en armar la primera versión. Todo parecía funcionar bien en las pruebas iniciales. Le preguntabas algo básico y te respondía con elegancia. Le entregamos el acceso al cliente un viernes por la tarde. Craso error.

El lunes a primera hora, el director de obra nos llamó furioso. El asistente le había asegurado a un supervisor que para una estructura específica se requería la mitad del acero de refuerzo exigido por la norma local. El modelo extrajo una tabla desactualizada de un borrador preliminar de 2018, ignorando por completo el anexo definitivo firmado en 2022. La búsqueda por similitud vectorial había decidido que el texto viejo era "semánticamente más cercano" a la consulta.

El chiste nos costó dos semanas de trabajo nocturno no pagado, 4,200 dólares gastados en llamadas consecutivas a la API para hacer pruebas de corrección, y la vergüenza profesional de admitir que nuestro sistema estrella era un peligro operativo.

Por qué los tutoriales de internet son puro ragebait

Gran parte del contenido que circula sobre desarrollo de inteligencia artificial en redes social es puro ragebait diseñado para vender cursos o generar clics. Nos muestran a creadores de contenido construyendo un "bot experto" en ocho minutos usando un archivo TXT de diez páginas. Eso no es producción; es una demostración de juguete.

El problema es que los documentos corporativos reales son caóticos. Tienen tablas cruzadas, texto en varias columnas, escaneos borrosos, marcas de agua y contradicciones internas acumuladas durante años. Si le tiras eso a una base de datos vectorial promedio, el sistema colapsa internamente. Las fragmentaciones cortan oraciones a la mitad, pierden el contexto de los encabezados y confunden fechas de vigencia.

Cuando la búsqueda vectorial falla, el modelo no te dice "no sé". El modelo inventa. Decora la respuesta con un lenguaje corporativo impecable y te entrega una alucinación disfrazada de certeza.

Lo que sí funciona cuando hay dinero de por medio

Para construir un sistema que realmente entregue valor sin arruinar la reputación de tu negocio, hay que dejar de lado los atajos y aplicar ingeniería de verdad. Después de tropezar varias veces, condensamos la estrategia en tres principios inflexibles:

1. Búsqueda híbrida sobre búsqueda pura: La búsqueda vectorial por coseno es excelente para entender conceptos generales, pero pésima para encontrar códigos de partes, números de serie o fechas exactas. Si no combinas vectores con búsqueda tradicional por palabras clave (BM25) y un algoritmo de reordenamiento (reranking), tu sistema está ciego de un ojo.

2. Limpieza de datos agresiva: No puedes meter basura a la tubería y esperar agua potable. Antes de tocar una sola línea de código de IA, hay que procesar los documentos: separar tablas, estructurar metadatos, extraer encabezados y etiquetar la vigencia de cada archivo.

3. Evaluaciones automatizadas: Si no tienes una batería de pruebas con cientos de preguntas reales y respuestas validadas por expertos humanos, no tienes un producto. Estás navegando a ciegas esperando que ningún cliente haga la pregunta equivocada.

Liderar proyectos de tecnología requiere la templanza de un guerrero como el legendario Ragnar enfrentando tormentas en mar abierto. No se trata de usar la herramienta más de moda, sino de entender la arquitectura profunda de lo que estás entregando.

Construyamos herramientas que sostengan negocios reales

El entusiasmo por la inteligencia artificial es comprensible, pero la brecha entre una demo vistosa y un sistema empresarial confiable es gigantesca. Muchas organizaciones compran la idea del "bot rápido" solo para descubrir meses después que su software se desploma como un muñeco sin estructura ante la primera pregunta compleja.

En GuardLabs nos dedicamos a cerrar esa brecha. No vendemos soluciones mágicas de diez minutos ni usamos plantillas genéricas. Nos sentamos con el equipo, analizamos la estructura real de su información y diseñamos infraestructura que responda con precisión matemática y contexto de negocio.

Si en su empresa están listos para dejar atrás los prototipos frágiles e implementar un ИИ-ассистент для бизнеса (RAG-чатбот на ваших данных) diseñado con estándares de ingeniería rigurosos, conversemos. Hagamos que la tecnología trabaje a favor de su operación, no en su contra.