Lunaris 8B — это универсальная модель общего назначения и ролевая модель, основанная на Llama 3. Это стратегическое слияние нескольких моделей, разработанное для балансировки креативности с улучшенной логикой и общими знаниями. Созданная [Sao10k](https://huggingface.co/Sao10k), эта модель призвана предложить улучшенный опыт по сравнению с Stheno v3.2, с повышенной креативностью и логическим рассуждением. Для достижения наилучших результатов используйте шаблон контекста Llama 3 Instruct, температуру 1.4 и min_p 0.1.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="sao10k/l3-lunaris-8b",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegermin_pnumberstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegerlogit_biasobjectresponse_formatobjectstructured_outputsboolean