NVIDIA: Nemotron 3.5 Super VL (free)новая

Описание

NVIDIA Nemotron 3.5 Super VL — это открытая мультимодальная модель "смесь экспертов" от NVIDIA, имеющая 12 миллиардов активных параметров из 120 миллиардов общих. Она принимает на вход текст, изображения, документы, снимки экрана графического интерфейса и видео, а возвращает текст. Модель разработана для длительно работающих агентов, которые сочетают визуальное восприятие с рассуждением и использованием инструментов. Она использует гибридную архитектуру Mamba-Transformer с предсказанием нескольких токенов и поддерживает контекст в 1 миллион токенов. Типичные применения включают интеллектуальную обработку документов, веб-исследования, проверку кода, обслуживание клиентов и анализ видео. Рассуждение включено по умолчанию и может быть отключено или ему может быть назначен лимит токенов.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="nvidia/nemotron-3.5-super-vl:free",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса