← Todas las guías
Datos y documentos

Asistentes que responden con tus documentos

Cuándo no hace falta un sistema de recuperación, cómo hacerlo bien cuando sí hace falta y cómo conseguir respuestas con cita.

3 min de lecturaRevisada en octubre de 20262 fuentes

Primero, pregúntate si necesitas recuperación

Dicho claramente: si toda tu base de conocimiento ocupa menos de unos 200.000 tokens (del orden de 500 páginas), puede ser más sencillo meterla entera en el prompt que montar un sistema de recuperación. Con la caché de prompts, cargarla en cada consulta sale bastante más barato.

Para todo lo demás (miles de contratos, todo el archivo de un departamento) necesitas recuperación: buscar los fragmentos relevantes y pasarle al modelo solo esos.

El problema de los fragmentos sin contexto

Los sistemas clásicos parten los documentos en fragmentos pequeños. Un fragmento que dice "los ingresos crecieron un 3 %" no dice de qué empresa ni de qué trimestre, así que la búsqueda falla o el modelo responde mal.

La solución: recuperación contextual

Antes de indexar cada fragmento, se le añade una breve explicación de su contexto dentro del documento, generada por el modelo (normalmente 50 a 100 tokens). Ese texto mejora tanto la búsqueda semántica como la búsqueda por palabras clave.

TécnicaReducción de fallos de recuperación
Embeddings contextuales35 %
Embeddings + búsqueda por palabras clave contextual49 %
Lo anterior + reordenación67 %

Fallos medidos como fragmentos relevantes que quedan fuera de los 20 primeros resultados, en las pruebas publicadas por Anthropic.

Reordenar los resultados

La reordenación recupera un conjunto amplio (Anthropic usó 150 fragmentos), lo puntúa con un modelo especializado y pasa solo los mejores (20 en sus pruebas). Mejora la precisión a cambio de algo de latencia y coste. En sus pruebas, pasar 20 fragmentos funcionó mejor que pasar 5 o 10.

Decisiones que cambian el resultado

  • Tamaño y solapamiento de los fragmentos. Cambian la calidad de la búsqueda; pruébalos con tus documentos.
  • Modelo de embeddings. No todos se benefician igual.
  • Glosario del negocio. Un prompt de contextualización con los términos de tu sector puede superar al genérico.
  • Evalúa siempre con preguntas reales de tu caso.

Respuestas con cita, siempre

Para que el asistente responda solo con lo que dicen los documentos, aplica las reglas para contextos largos: documentos arriba, cada uno en su etiqueta con su origen, pregunta al final, y pide primero las citas textuales relevantes y después la respuesta basada en ellas.

Ejemplo de instruccionesResponde a la pregunta del empleado usando solo los documentos de <documentos>. Primero copia en <citas> los fragmentos exactos que la responden, con el nombre del documento. Después responde en <respuesta> en tres frases como máximo, citando el documento entre paréntesis. Si los documentos no contienen la respuesta, dilo y sugiere a qué departamento preguntar. No completes con conocimiento general: una respuesta inventada sobre una política interna puede llevar a un error laboral.

Lo que no está en las guías, pero en la empresa es imprescindible

  • Permisos: el asistente solo debe recuperar documentos que la persona que pregunta puede ver. Hereda los permisos del sistema de origen.
  • Versiones: indexa la versión vigente de cada política y retira las anteriores.
  • Contenido no fiable: los documentos pueden contener instrucciones maliciosas (ver la guía de inyección de instrucciones).

Fuentes

Contenido redactado por Esclusa a partir de la documentación oficial citada. Los modelos, precios y funciones cambian a menudo: comprueba la fuente antes de tomar decisiones.

@esclusa.ia