Reka Flash 3 — это большая языковая модель общего назначения с 21 миллиардом параметров, дообученная на инструкциях и разработанная Reka. Она отлично справляется с общим чатом, задачами кодирования, выполнением инструкций и вызовом функций. Обладая длиной контекста 32K и оптимизированная с помощью обучения с подкреплением (RLOO), она обеспечивает конкурентоспособную производительность, сравнимую с проприетарными моделями, при меньшем количестве параметров. Reka Flash 3 идеально подходит для локальных или встроенных развертываний с низкой задержкой, она компактна, поддерживает эффективную квантизацию (до 11 ГБ при 4-битной точности) и использует явные теги для рассуждений («<reasoning>»), чтобы указывать свой внутренний мыслительный процесс. Reka Flash 3 — это в первую очередь англоязычная модель с ограниченными возможностями многоязычного понимания. Веса модели выпущены под лицензией Apache 2.0.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="rekaai/reka-flash-3",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerstopstring | string[]frequency_penaltynumberpresence_penaltynumberseedintegerlogprobsbooleantop_logprobsintegerstructured_outputsreasoningobjectinclude_reasoningboolean