Hunyuan-A13B — это языковая модель Mixture-of-Experts (MoE) с 13 миллиардами активных параметров, разработанная Tencent, с общим числом параметров 80 миллиардов и поддержкой рассуждений с помощью Chain-of-Thought. Она демонстрирует конкурентоспособную производительность в бенчмарках по математике, науке, программированию и многооборотным рассуждениям, сохраняя при этом высокую эффективность инференса благодаря Grouped Query Attention (GQA) и поддержке квантования (FP8, GPTQ и др.).
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="tencent/hunyuan-a13b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerfrequency_penaltynumberresponse_formatobjectstructured_outputsbooleanreasoningobjectinclude_reasoningboolean