Meta: Llama 3.2 3B Instruct

Описание

Llama 3.2 3B — это многоязычная большая языковая модель с 3 миллиардами параметров, оптимизированная для продвинутых задач обработки естественного языка, таких как генерация диалогов, рассуждение и суммирование. Разработанная на основе новейшей архитектуры Transformer, она поддерживает восемь языков, включая английский, испанский и хинди, и может быть адаптирована для дополнительных языков. Обученная на 9 триллионах токенов, модель Llama 3.2 3B превосходно справляется с выполнением инструкций, сложными рассуждениями и использованием инструментов. Ее сбалансированная производительность делает ее идеальной для приложений, требующих точности и эффективности в генерации текста в многоязычных средах. Нажмите здесь, чтобы перейти к исходной карточке модели. Использование этой модели регулируется Политикой допустимого использования Meta.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="meta-llama/llama-3.2-3b-instruct",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса