VoyageAI by MongoDB: rerank-2.5

Описание

rerank-2.5 — это передовой реранжировщик, оптимизированный по качеству, который обеспечивает улучшение точности поиска на 7,94 % по сравнению с Cohere Rerank v3.5 на 93 наборах данных. Он также превзошел Cohere Rerank v3.5 на 12,70 % в Massive Instructed Retrieval Benchmark (MAIR). Модель поддерживает общую длину контекста в 32 тыс. токенов на пару запрос-документ, включая до 8 тыс. токенов для запроса, что обеспечивает более точный поиск по длинным документам. Кроме того, rerank-2.5 поддерживает следование инструкциям, позволяя пользователям управлять оценкой релевантности с помощью подсказок на естественном языке.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/rerank",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "voyageai/rerank-2.5",
        "query": "Столица Франции",
        "documents": ["Париж — столица Франции", "Берлин — столица Германии"],
        "top_n": 1,
    },
)
for res in r.json()["results"]:
    print(res["index"], res["relevance_score"])

Поддерживаемые параметры запроса