Llama 3.2 3B — это многоязычная большая языковая модель с 3 миллиардами параметров, оптимизированная для продвинутых задач обработки естественного языка, таких как генерация диалогов, рассуждение и суммирование. Разработанная на основе новейшей архитектуры Transformer, она поддерживает восемь языков, включая английский, испанский и хинди, и может быть адаптирована для дополнительных языков. Обученная на 9 триллионах токенов, модель Llama 3.2 3B превосходно справляется с выполнением инструкций, сложными рассуждениями и использованием инструментов. Ее сбалансированная производительность делает ее идеальной для приложений, требующих точности и эффективности в генерации текста в многоязычных средах. Нажмите здесь, чтобы перейти к [исходной карточке модели](https://github.com/meta-llama/llama-models/blob/main/models/llama3_2/MODEL_CARD.md). Использование этой модели регулируется [Политикой допустимого использования Meta](https://www.llama.com/llama3/use-policy/).
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.2-3b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegermin_pnumberstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegerlogit_biasobjectlogprobsbooleantop_logprobsintegerstructured_outputsboolean