Meta: Llama 3.2 1B Instruct

Описание

Llama 3.2 1B — это языковая модель с 1 миллиардом параметров, ориентированная на эффективное выполнение задач обработки естественного языка, таких как обобщение, диалог и многоязычный анализ текста. Ее меньший размер позволяет ей эффективно работать в средах с ограниченными ресурсами, сохраняя при этом высокую производительность в задачах. Поддерживая восемь основных языков и возможность дообучения для большего количества, Llama 1.3B идеально подходит для компаний или разработчиков, ищущих легкие, но мощные ИИ-решения, которые могут работать в различных многоязычных средах без высоких вычислительных затрат, присущих более крупным моделям. Нажмите здесь, чтобы перейти к исходной карточке модели. Использование этой модели регулируется Политикой допустимого использования Meta.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="meta-llama/llama-3.2-1b-instruct",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса