Cohere: Command R+ (08-2024)

Описание

command-r-plus-08-2024 — это обновление Command R+, обеспечивающее примерно на 50 % более высокую пропускную способность и на 25 % более низкие задержки по сравнению с предыдущей версией Command R+, при этом сохраняя ту же аппаратную конфигурацию. Использование этой модели регулируется Политикой использования и SaaS-соглашением Cohere.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="cohere/command-r-plus-08-2024",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса