Moondream: Moondream 3 Previewновая

Описание

Moondream 3 Preview — это визуально-языковая модель от Moondream с 9 миллиардами параметров в целом и 2 миллиардами активных (смесь экспертов). Она обрабатывает ответы на визуальные вопросы, создание описаний, OCR и визуальное рассуждение на изображениях, с контекстом 32K токенов и опциональным режимом рассуждения.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="moondream/moondream3-preview",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса