Llama 4 Scout 17B Instruct (16E) — это языковая модель типа "смесь экспертов" (MoE), разработанная Meta, которая активирует 17 миллиардов параметров из 109 миллиардов. Она поддерживает нативный мультимодальный ввод (текст и изображение) и многоязычный вывод (текст и код) на 12 поддерживаемых языках. Разработанный для взаимодействия в стиле ассистента и визуального мышления, Scout использует 16 экспертов на прямой проход и имеет длину контекста 10 миллионов токенов, с обучающим корпусом объемом около 40 триллионов токенов. Созданный для высокой эффективности и локального или коммерческого развертывания, Llama 4 Scout включает раннюю фьюжн-интеграцию для бесшовного объединения модальностей. Он дообучен с использованием инструкций для использования в многоязычных чатах, создании подписей и задачах понимания изображений. Выпущенная под лицензией Llama 4 Community License, модель последний раз обучалась на данных до августа 2024 года и была публично запущена 5 апреля 2025 года.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="meta-llama/llama-4-scout",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegermin_pnumberstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegerlogit_biasobjectresponse_formatobjectstructured_outputsbooleantoolsarraytool_choicestring | object