VoyageAI by MongoDB: rerank-3-liteновая

Описание

rerank-3-lite — это реранкер, оптимизированный как по задержке, так и по качеству, представляющий собой прямую замену rerank-2.5-lite. Он превосходит его в среднем на 0,94% NDCG@10 в доменных оценках и на 1,86% в оценках для длинных документов, с улучшением извлечения кода на 2,77% по сравнению с voyage-3-large и на 2,59% по сравнению с voyage-4-large. Он соответствует качеству извлечения rerank-2.5 и превосходит Cohere Rerank v4.0 Pro на 1,44% и Qwen3-Reranker-8B на 2,61% в 93 наборах данных для извлечения. Модель поддерживает общую длину контекста до 32K токенов на пару запрос-документ, включая до 8K токенов для запроса, что обеспечивает более точное извлечение данных из длинных документов. Кроме того, rerank-3-lite поддерживает выполнение инструкций, позволяя пользователям управлять оценкой релевантности с помощью подсказок на естественном языке.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/rerank",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "voyageai/rerank-3-lite",
        "query": "Столица Франции",
        "documents": ["Париж — столица Франции", "Берлин — столица Германии"],
        "top_n": 1,
    },
)
for res in r.json()["results"]:
    print(res["index"], res["relevance_score"])

Поддерживаемые параметры запроса