Llama 3.2 1B — это языковая модель с 1 миллиардом параметров, ориентированная на эффективное выполнение задач обработки естественного языка, таких как обобщение, диалог и многоязычный анализ текста. Ее меньший размер позволяет ей эффективно работать в средах с ограниченными ресурсами, сохраняя при этом высокую производительность в задачах. Поддерживая восемь основных языков и возможность дообучения для большего количества, Llama 1.3B идеально подходит для компаний или разработчиков, ищущих легкие, но мощные ИИ-решения, которые могут работать в различных многоязычных средах без высоких вычислительных затрат, присущих более крупным моделям. Нажмите здесь, чтобы перейти к [исходной карточке модели](https://github.com/meta-llama/llama-models/blob/main/models/llama3_2/MODEL_CARD.md). Использование этой модели регулируется [Политикой допустимого использования Meta](https://www.llama.com/llama3/use-policy/).
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.2-1b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegermin_pnumberstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegerlogit_biasobject