import requests
r = requests.post(
"https://infergate.ru/api/v1/rerank",
headers={"Authorization": "Bearer sk-•••"},
json={
"model": "nvidia/nemotron-3.5-rerank-8b:free",
"query": "Столица Франции",
"documents": ["Париж — столица Франции", "Берлин — столица Германии"],
"top_n": 1,
},
)
for res in r.json()["results"]:
print(res["index"], res["relevance_score"])modelstringобязательныйqueryобязательныйdocumentsобязательныйОриентировочно, за 1M токенов. Списывается фактическая стоимость запроса.