Together: Tev1 4B Experimentalновая

Описание

Tev1 4B Experimental — это экспериментальная модель принятия решений от Together AI, дообученная под наблюдением на основе Qwen3.5-4B, предназначенная для выбора одного варианта из структурированного состояния, вопроса и списка из 2–24 маркированных вариантов. Она сохраняет стандартную выходную головку Qwen для следующего токена, поэтому обслуживается через обычный API для завершения чата, а не через выделенную среду выполнения решений. Отправьте системную инструкцию, за которой следует JSON-решение, содержащее `state` (состояние), `question` (вопрос) и `options` (варианты). Модель возвращает одну букву варианта, которую прикладной код сопоставляет обратно с ключом варианта. Рекомендуемые настройки: `temperature: 0`, `max_tokens: 8`, а отключение режима размышлений. Модель предназначена для маршрутизации, классификации и проверки политик, а не для общего чата. Together публикует полный рецепт данных и код обучения, чтобы команды могли дообучить свой собственный вариант.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/systemone",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "togethercomputer/tev1-4b-experimental",
        "state": "Тикет: верните деньги за заказ 1042",
        "questions": {
            "refund": {
                "type": "noul",
                "instructions": "Это запрос на возврат денег?",
                "criteria": {"true": "просит вернуть деньги", "false": "другое"},
            },
        },
    },
)
print(r.json()["answers"]["refund"])

Поддерживаемые параметры запроса