WizardLM-2 8x22B — новейшая модель Wizard от Microsoft AI. Она демонстрирует высокую конкурентоспособность по сравнению с ведущими проприетарными моделями и стабильно превосходит все существующие современные открытые модели. Это дообученная (instruct finetune) версия [Mixtral 8x22B](/models/mistralai/mixtral-8x22b). Чтобы узнать больше о выпуске модели, [нажмите здесь](https://wizardlm.github.io/WizardLM2/). #moe
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="microsoft/wizardlm-2-8x22b",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegerresponse_formatobject