anthracite-org/magnum-v4-72b
anthracite-org: Magnum v4 72B
Описание
Это серия моделей, разработанных для воспроизведения качества прозы моделей Claude 3, в частности Sonnet и Opus. Модель тонко настроена поверх Qwen2.5 72B.
Характеристики
Контекст
32 768 ток.
Модальности
→
Дата релиза
октябрь 2024 г.
Метрика биллинга
за 1M токенов
API и примеры кода
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="anthracite-org/magnum-v4-72b",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)Поддерживаемые параметры запроса
modelstringобязательныйИдентификатор модели.
messagesarrayобязательныйСписок сообщений диалога (роль + содержимое).
temperaturenumberСлучайность вывода, 0–2. По умолчанию 1.
max_tokensintegerМаксимум токенов в ответе.
top_pnumberNucleus-сэмплирование, 0–1.
top_kintegerОграничение сэмплирования top-K токенами.
min_pnumberМинимальная вероятность токена относительно самого вероятного.
top_anumberАдаптивная фильтрация по вероятности (top-a).
stopstring | string[]Стоп-последовательности.
frequency_penaltynumberШтраф за повторы, −2…2.
presence_penaltynumberШтраф за присутствие, −2…2.
repetition_penaltynumberШтраф за повторение токенов.
seedintegerФиксация для воспроизводимости.
logit_biasobjectСмещения вероятностей отдельных токенов.
logprobsbooleanВозвращать логарифмы вероятностей токенов.
top_logprobsintegerСколько наиболее вероятных токенов возвращать вместе с logprobs.
response_formatobject{ "type": "json_object" } — гарантированный JSON.
structured_outputsbooleanСтрогий вывод по JSON-схеме (json_schema в response_format).
Цены ₽ / 1M токенов
Ввод267,19 ₽
Вывод534,38 ₽
Платные возможности
Веб-поиск≈0,16 ₽ / результат