NVIDIA-Nemotron-Nano-9B-v2 — это большая языковая модель (LLM), разработанная NVIDIA с нуля и спроектированная как унифицированная модель для задач, требующих и не требующих рассуждений. Она отвечает на запросы и задачи пользователя, сначала генерируя трассировку рассуждений, а затем завершая окончательным ответом. Возможности модели по рассуждению можно контролировать с помощью системной подсказки. Если пользователь предпочитает, чтобы модель предоставляла окончательный ответ без промежуточных трассировок рассуждений, это можно настроить.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="nvidia/nemotron-nano-9b-v2:free",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumberseedintegerresponse_formatobjectstructured_outputsbooleantoolsarraytool_choicestring | objectreasoningobjectinclude_reasoningboolean