Самая быстрая модель Morph для внесения изменений в код. ~10 500 токенов/сек с точностью 96% для быстрых преобразований кода. Модель требует, чтобы запрос был в следующем формате: <instruction>{инструкция}</instruction> <code>{начальный_код}</code> <update>{фрагмент_редактирования}</update> Для Morph включен режим полного отсутствия сохранения данных. Узнайте больше об этой модели в их [документации](https://docs.morphllm.com/quickstart)
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="morph/morph-v3-fast",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegerstopstring | string[]