Kimi K2 Instruct — это крупномасштабная языковая модель Mixture-of-Experts (MoE), разработанная Moonshot AI. Она имеет 1 триллион общих параметров, из которых 32 миллиарда являются активными при каждом прямом проходе (forward pass). Модель оптимизирована для автономных возможностей, включая расширенное использование инструментов, рассуждение и синтез кода. Kimi K2 демонстрирует превосходные результаты в широком спектре тестов, особенно в задачах программирования (LiveCodeBench, SWE-bench), рассуждения (ZebraLogic, GPQA) и использования инструментов (Tau2, AceBench). Она поддерживает обработку длинных контекстов до 128K токенов и разработана с использованием инновационного стека обучения, включающего оптимизатор MuonClip для стабильного масштабного обучения MoE.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="moonshotai/kimi-k2",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegertoolsarraytool_choicestring | object