qwen: Qwen3 Reranker 8B

Описание

Qwen3 Reranker 8B — это модель переранжирования текста от Alibaba Cloud, построенная на архитектуре Qwen3. Она оценивает пары «запрос-документ» для получения оценок релевантности, которые используются в конвейерах поиска и RAG. Поддерживает более 100 языков и языков программирования, с инструктивным переранжированием, которое позволяет настраивать критерии оценки для каждой задачи. Демонстрирует высокую производительность на многоязычных бенчмарках, включая MTEB, CMTEB и MMTEB.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/rerank",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "qwen/qwen3-reranker-8b",
        "query": "Столица Франции",
        "documents": ["Париж — столица Франции", "Берлин — столица Германии"],
        "top_n": 1,
    },
)
for res in r.json()["results"]:
    print(res["index"], res["relevance_score"])

Поддерживаемые параметры запроса