Reranker en RAG: qué es el reranking y el cross-encoder

Un reranker reordena los pasajes que encuentra un RAG antes de pasarlos al LLM. Cross-encoder, bi-encoder, RRF, coste y latencia: cuándo compensa usarlo.

Conceptos
9 min de lectura

Un reranker es el modelo especializado que, en un RAG, reordena los pasajes encontrados por la búsqueda antes de pasarlos al LLM; esta etapa se llama reranking. El reranker relee cada pasaje junto con la pregunta, le asigna una nota de pertinencia y solo se conservan los mejor valorados. En las pruebas de Anthropic, añadir un reranker hizo bajar la tasa de fallo de la búsqueda del 2,9 % al 1,9 %.

¿Por qué una segunda etapa? Porque la búsqueda de un RAG es rápida pero aproximada: compara vectores calculados de antemano, sin leer nunca juntos la pregunta y el pasaje. El reranker, en cambio, los lee juntos. Es más preciso, pero mucho más lento: en el banco de pruebas BEIR, reordenar los 100 primeros resultados con un cross-encoder mejora la pertinencia un 11 % de media, pero requiere 450 ms por consulta en GPU, frente a 20 ms para la búsqueda por palabras clave sola.

El reranking tiene, por tanto, un límite claro: ordena lo que la búsqueda ha encontrado, y nada más. Bien situado, mejora las respuestas con un coste modesto. Mal situado, añade latencia sin recuperar nada. Queda elegir entre cross-encoder, API, LLM como juez o simple fusión RRF, y medir la mejora en tus propios documentos.

¿Qué es el reranking en un RAG y qué hace un reranker?

Un RAG responde a una pregunta en dos tiempos: busca en tus documentos los pasajes útiles y luego los transmite al LLM, que redacta la respuesta. El reranking se sitúa entre ambos. La búsqueda devuelve una lista amplia de candidatos, un reranker puntúa cada uno y la lista se reordena y después se corta.

Loading diagram…

El reranker no consulta el índice: recibe la lista que produce la búsqueda, puntúa cada pasaje en relación con la pregunta y solo transmite al LLM los mejores, en orden.

Los volúmenes varían según los sistemas. La documentación de Sentence Transformers pone el ejemplo de un centenar de candidatos que reordenar. Anthropic, en su método Contextual Retrieval, reordena los 150 primeros pasajes y conserva 20.

El orden final cuenta tanto como la selección. Un estudio publicado en 2023 mostró que un LLM aprovecha mejor una información situada al principio o al final de su contexto que en el medio. Un buen pasaje perdido en duodécima posición corre el riesgo de aprovecharse peor que si encabeza la lista. El reranker decide lo que el LLM lee primero.

Bi-encoder o cross-encoder: ¿qué diferencia hay?

El reranking se basa en dos maneras de comparar una pregunta y un pasaje.

Un bi-encoder codifica la pregunta y cada pasaje por separado, en forma de vectores (los embeddings). Los vectores de los documentos se calculan de una vez por todas, en la indexación. Al llegar la pregunta, basta con calcular un vector y buscar sus vecinos más cercanos, lo que lleva unos quince milisegundos sobre un millón de pasajes con una GPU. Es la búsqueda semántica clásica, aquella sobre la que contamos nuestras elecciones de modelos y de proveedores.

Un cross-encoder lee la pregunta y el pasaje juntos, en el mismo modelo, y devuelve directamente una puntuación. Cada palabra de la pregunta puede «mirar» cada palabra del pasaje: eso es lo que lo hace más preciso. Pero nada se calcula de antemano: cada par pregunta-pasaje requiere una pasada completa por el modelo.

La diferencia de coste es enorme. Según los autores de Sentence-BERT, encontrar el par más cercano entre 10.000 frases con un cross-encoder BERT lleva unas 65 horas, frente a 5 segundos con vectores precalculados. De ahí la arquitectura en dos niveles: el bi-encoder para buscar, el cross-encoder para ordenar.

La mejora de precisión, por su parte, se mide desde 2019. Ya en enero de ese año, un reranker basado en BERT superaba el estado del arte en un 27 % (en términos relativos) en el banco de pruebas MS MARCO de Microsoft.

Entre ambos existe una vía intermedia, la late interaction, popularizada por ColBERT: un vector por palabra en lugar de un vector por pasaje, comparados con detalle en el momento de la consulta. Sus autores anuncian una calidad cercana a la de los cross-encoders con dos órdenes de magnitud más de rapidez.

Bi-encoderLate interaction (ColBERT)Cross-encoder
Lectura de pregunta y pasajePor separadoPor separado, comparación palabra a palabraJuntos
Cálculo de antemanoSí, un vector por pasajeSí, un vector por palabraNo
VelocidadMilisegundos sobre millones de pasajesIntermediaUnas decenas de pasajes por consulta
PrecisiónBuenaMuy buenaLa mejor
Papel en un RAGBúsquedaBúsqueda o rerankingReranking

Las cuatro familias de rerankers

Los cross-encoders open weight

Son modelos descargables, que uno mismo hace funcionar. El modelo bge-reranker-v2-m3 de BAAI (Beijing Academy of Artificial Intelligence) tiene 600 millones de parámetros, es multilingüe, con licencia Apache 2.0, y suma más de 14 millones de descargas en el último mes a 6 de noviembre de 2026. Alibaba publica la familia Qwen3-Reranker en 0,6, 4 y 8.000 millones de parámetros, con licencia Apache 2.0, para más de 100 idiomas. Mixedbread ofrece mxbai-rerank-large-v2, también con licencia Apache 2.0.

Conviene vigilar las licencias: jina-reranker-v3 tiene licencia CC BY-NC 4.0, que prohíbe el uso comercial sin acuerdo con el editor. Que los pesos se puedan descargar no garantiza un uso libre.

La baza de esta familia es el control. Un reranker de 600 millones de parámetros funciona en tus servidores, en una GPU modesta, y los pasajes de tus documentos no salen de tu infraestructura. Es la vía natural para una empresa que exige un tratamiento de los datos en Europa.

Los rerankers por API

Cohere, Voyage AI y Jina AI venden el reranking por llamada. Cohere lanzó el 21 de octubre de 2026 Rerank 5, facturado a 0,05 dólares por millón de tokens en versión Pro y a 0,02 dólares en versión Fast, y evaluado en 20 idiomas, entre ellos el francés. Voyage AI aplica los mismos precios para rerank-3 y rerank-3-lite.

Dos de estos proveedores pertenecen ya a editores de bases de datos y de motores de búsqueda: MongoDB compró Voyage AI en febrero de 2025, y Elastic cerró la compra de Jina AI en octubre de 2025.

La API evita tener que explotar un modelo, pero cada pasaje candidato sale hacia el proveedor. Para un responsable de sistemas, un reranker por API es un encargado del tratamiento como cualquier otro, con su contrato, su ubicación y su política de conservación. Cohere ofrece un despliegue privado, en tu nube o en tus instalaciones, bajo petición comercial.

El LLM como reranker

También se puede pedir a un LLM que juzgue la pertinencia de cada pasaje, o que ordene directamente una lista. Unos investigadores mostraron en 2023 que ChatGPT y GPT-4, bien guiados, obtienen resultados competitivos, e incluso superiores a los métodos supervisados. El mismo artículo muestra que un modelo pequeño de 440 millones de parámetros, entrenado para imitar esas clasificaciones, supera a un modelo supervisado de 3.000 millones.

La ventaja está en la pregunta planteada: con un LLM, el criterio de pertinencia se escribe con todas las letras en lugar de quedar fijado en el entrenamiento. Es lo que hacemos con Jev, un modelo que responde a una pregunta cerrada con una probabilidad. En su primer día en producción, redujo los pasajes de 10,7 a 7,7 por búsqueda, por 0,70 dólares cada 1.000 búsquedas.

El inconveniente: un LLM generalista cuesta más y responde más despacio que un cross-encoder especializado. Un modelo diseñado para decidir, sin generar texto, reduce la diferencia.

La búsqueda híbrida y la fusión RRF

La última familia, y la más sencilla: no usar ningún modelo. Una búsqueda híbrida lanza en paralelo una búsqueda por palabras clave y una búsqueda semántica. Después hay que fusionar dos listas cuyas puntuaciones no son comparables: la de la búsqueda léxica no tiene límite superior, la de la búsqueda semántica está acotada.

La Reciprocal Rank Fusion (RRF) sortea el problema ignorando las puntuaciones. Cada documento recibe, por cada lista en la que aparece, 1 / (60 + su posición), y se suman. Propuesta en 2009 por investigadores de la Universidad de Waterloo y de Google, superaba en un 4 a 5 % al mejor de los sistemas fusionados. Elasticsearch la aplica con la misma constante de 60 por defecto.

RRF no es un reranker en sentido estricto: no lee el texto. Pero es un algoritmo determinista, gratuito e instantáneo. Antes de añadir un modelo, conviene comprobar lo que da RRF por sí sola.

¿Compensa un reranker?

Lo que cuesta la latencia

El tiempo añadido es la verdadera limitación. En BEIR, en 2021, reordenar 100 pasajes con un cross-encoder pequeño llevaba 450 ms en GPU y 6,1 segundos en CPU, cuando la búsqueda por palabras clave sola tardaba 20 ms. El hardware y los modelos han progresado: Cohere anuncia que Rerank 5 Fast procesa unos 187 documentos de 1.000 tokens por segundo en una tarjeta A100. Anthropic lo resume: el reranking añade «inevitablemente algo de latencia», y cuantos más pasajes se reordenan, más aumenta.

Dos palancas limitan la factura: reducir el número de candidatos y paralelizar las llamadas. En nuestro caso, todas las llamadas de reranking de una búsqueda salen a la vez, de modo que el retraso depende de la longitud de los pasajes, no de su número.

Lo que cuesta la factura

Por API, el reranking se paga por token. Tomemos 50 pasajes de 400 tokens: unos 20.000 tokens por búsqueda, es decir, 0,001 dólares con la tarifa de Cohere Rerank 5 Pro, o un dólar cada 1.000 búsquedas. A esta escala, la factura del reranking pesa poco al lado de la del LLM que redacta la respuesta. Y puede hacer bajar esta última: menos pasajes transmitidos son menos tokens leídos por el LLM, algo que Anthropic también señala. Llegamos a la misma conclusión con Jev: la factura no pesa nada, el tiempo añadido hay que vigilarlo.

Cuándo prescindir de él

El reranking no aporta nada, o casi nada, en varios casos:

  • la búsqueda devuelve pocos candidatos: si de todos modos se transmiten los 5 primeros pasajes, reordenarlos cambia poco;
  • la pregunta se refiere a una referencia exacta (un número de pedido, un código de proyecto): la búsqueda por palabras clave encuentra la línea correcta, no hay nada que desempatar;
  • el pasaje correcto no está en la lista: un reranker no recupera nada, reordena. Si la búsqueda no encuentra el pasaje, ningún reranker lo recuperará;
  • la latencia es crítica, como en un autocompletado.

Es la regla que aplicamos en todas partes: IA solo donde la tarea no es determinista. Cuando basta un algoritmo, es más fiable, más económico y más sobrio. Una búsqueda por palabras clave bien ajustada sigue siendo un rival serio: en BEIR, BM25, el algoritmo clásico de búsqueda léxica, es «una base robusta», que varios modelos semánticos no superan fuera de su dominio de entrenamiento.

¿Cómo medir la mejora de un reranker?

Un reranker se juzga con tus documentos y tus preguntas, no con una clasificación pública. El método cabe en cinco etapas.

  1. Crear un conjunto de prueba: de 50 a 200 preguntas reales, sacadas de los registros del asistente, con los pasajes que responden a cada una.
  2. Medir el recall de la búsqueda sola: entre los 50 o 100 primeros candidatos, ¿cuántos contienen el pasaje correcto? Ese recall es el techo del reranker.
  3. Comparar tres configuraciones: sin reranker, con RRF sola y con reranker. La medida de referencia es el nDCG@10, elegido por BEIR porque tiene en cuenta la posición y los grados de pertinencia; el MRR, que mira la posición del primer pasaje correcto, se lee con más facilidad.
  4. Anotar la latencia y el coste por consulta, mirando los casos lentos (percentil 95) y no solo la media.
  5. Releer a mano los pasajes descartados. Un reranker que corta demasiado descarta pasajes útiles; fue releyendo los informes, extracto por extracto, como fijamos las reglas de selección de Jev.

Una precaución: fijar un umbral de nota (conservar lo que supera 0,5) en lugar de un número fijo (conservar los 10 primeros) adapta el corte a cada pregunta. Para eso, las notas tienen que ser comparables, lo que supone una puntuación normalizada entre 0 y 1, como permite bge-reranker-v2-m3 con una sigmoide.

Lo que un departamento de TI puede sacar de esto

  • Empezar por la búsqueda. Primero la búsqueda híbrida y RRF: sin recall, no hay reranking útil.
  • Medir antes de añadir un modelo. Un conjunto de 50 preguntas reales basta para saber si el reranker gana algo con tus documentos.
  • Elegir la familia según los datos. Datos sensibles o política europea: un cross-encoder open weight autoalojado, tras comprobar su licencia. Si no, una API facturada por token, que hay que tratar como un encargado del tratamiento.
  • Vigilar la latencia más que la factura. El coste del reranking es bajo; el tiempo añadido se nota en cada pregunta.
  • Escribir el criterio cuando el negocio lo exige. Un LLM como juez permite decir lo que es pertinente para ti («al menos en parte», «documento vigente»), mientras que un cross-encoder aplica una pertinencia aprendida en otro lugar.

En Ask This Guy, el reranking forma parte de la búsqueda documental de nuestro RAG para empresas llave en mano: búsqueda híbrida y luego Jev para las organizaciones con la política de IA Worldwide. Las organizaciones con la política «solo UE» no envían ningún extracto a este proveedor estadounidense.

Preguntas frecuentes

¿Qué es un reranker?

Un reranker es un modelo que recibe una pregunta y una lista de pasajes ya encontrados por una búsqueda, y que asigna a cada pasaje una nota de pertinencia. Después, la lista se reordena según esas notas y, casi siempre, se corta para conservar solo los mejores. En un RAG, se sitúa entre la búsqueda y el LLM que redacta la respuesta.

¿Qué diferencia hay entre un cross-encoder y un bi-encoder?

Un bi-encoder transforma la pregunta y cada documento en vectores separados, calculados de antemano, lo que permite buscar en unos milisegundos entre millones de pasajes. Un cross-encoder lee la pregunta y un pasaje juntos en el mismo modelo: es más preciso, pero tiene que rehacer el cálculo para cada par. Por eso se usa el bi-encoder para buscar y el cross-encoder para reordenar unas decenas de candidatos.

¿Es imprescindible el reranking en un RAG?

No. Mejora la pertinencia cuando la búsqueda devuelve muchos candidatos de calidad desigual, algo frecuente con una búsqueda híbrida. Aporta poco si la búsqueda devuelve pocos pasajes, si la pregunta se refiere a una referencia exacta o si no se ha encontrado el pasaje correcto. La única manera de decidir es medir con un conjunto de preguntas reales.

¿Cuántos pasajes hay que dar a un reranker?

No existe un número universal. Los ejemplos publicados van de un centenar de candidatos (documentación de Sentence Transformers) a 150 candidatos de los que se conservan 20 (Contextual Retrieval de Anthropic). Más candidatos mejoran el recall, pero aumentan la latencia y el coste, ya que el reranker puntúa cada pasaje. El ajuste correcto se encuentra midiendo ambas cosas.

¿Qué reranker elegir para documentos en español?

Hace falta un modelo multilingüe. En open weight, bge-reranker-v2-m3 (BAAI) y Qwen3-Reranker (Alibaba) tienen licencia Apache 2.0 y son multilingües; pueden alojarse en Europa en tus propios servidores. Por API, Cohere evalúa Rerank 5 en una veintena de idiomas. En todos los casos, lo que cuenta es la prueba con los propios documentos.

¿Sustituye la fusión RRF a un reranker?

No exactamente. La Reciprocal Rank Fusion fusiona varias listas de resultados (palabras clave y semántica) a partir de sus posiciones, sin leer el texto. No juzga la pertinencia de un pasaje en relación con la pregunta. Es una primera etapa excelente, gratuita y determinista; un reranker viene después, si la medición muestra que aporta una mejora.


Conclusión

El reranking mejora a menudo un RAG con poco coste, siempre que se quede en su sitio: después de una buena búsqueda, nunca en su lugar. Un cross-encoder o un LLM como juez aportan una lectura fina que los vectores no tienen. Una fusión RRF ya resuelve buena parte del problema sin ningún modelo. Entre ambos, decide la medición.

Para ver cómo se comporta este reranking en producción, con sus cifras de coste y de latencia, está nuestro caso práctico con Jev. Y si quieres probar una búsqueda documental filtrada con tus propios documentos, puedes reservar una demo.

Partager :

Artículos relacionados

Hybrid search: las 6 formas de encontrar informaciónConceptos

Hybrid search: las 6 formas de encontrar información

Hybrid search explicada: búsqueda semántica, palabras clave, herramientas de negocio, consulta a base de datos, catálogo y tratamiento a medida para un agente.

Agentic RAG: ¿cuántos documentos puede tratar un RAG?Conceptos

Agentic RAG: ¿cuántos documentos puede tratar un RAG?

Un RAG casero se queda en unos pocos miles de documentos por agente, menos si se parecen. Un agentic RAG que filtra antes de buscar trata más de 100.000.

Embeddings: lo que nos enseñó una demo fallidaConceptos

Embeddings: lo que nos enseñó una demo fallida

API de embeddings lentas y dependencia de un proveedor: nuestra experiencia en producción y por qué ATG llama en paralelo a Qwen 3 Embedding 8B.

4 min

¿Te interesan nuestras soluciones?

Mira cómo Ask This Guy puede acelerar tus proyectos de IA

Reservar una demo