Mercury 2 — это чрезвычайно быстрая модель LLM для рассуждений, а также первая модель dLLM (diffusion LLM) для рассуждений. Вместо генерации токенов последовательно, Mercury 2 создает и уточняет несколько токенов параллельно, достигая производительности >1 000 токенов/сек на стандартных GPU. Mercury 2 в 5+ раз быстрее ведущих оптимизированных по скорости LLM, таких как Claude 4.5 Haiku и GPT 5 Mini, при значительно меньших затратах. Mercury 2 поддерживает настраиваемые уровни рассуждений, контекст 128K, встроенное использование инструментов и вывод JSON, соответствующий схеме. Создана для рабочих процессов кодирования, где задержки накапливаются, для голосового поиска и поиска в реальном времени, а также для циклов агентов. Совместима с API OpenAI. Читайте подробнее в [сообщении в блоге](https://www.inceptionlabs.ai/blog/introducing-mercury-2).
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="inception/mercury-2",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegerstopstring | string[]response_formatobjectstructured_outputsbooleantoolsarraytool_choicestring | objectreasoningobjectreasoning_effortstringinclude_reasoningboolean