command-r-plus-08-2024 — это обновление [Command R+](/models/cohere/command-r-plus), обеспечивающее примерно на 50 % более высокую пропускную способность и на 25 % более низкие задержки по сравнению с предыдущей версией Command R+, при этом сохраняя ту же аппаратную конфигурацию. Прочитать запись о запуске можно [здесь](https://docs.cohere.com/changelog/command-gets-refreshed). Использование этой модели регулируется [Политикой использования](https://docs.cohere.com/docs/usage-policy) и [SaaS-соглашением](https://cohere.com/saas-agreement) Cohere.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="cohere/command-r-plus-08-2024",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerstopstring | string[]frequency_penaltynumberpresence_penaltynumberseedintegerresponse_formatobjectstructured_outputsbooleantoolstool_choicestring | object