The Meta Llama 3.2 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction-tuned generative models in 1B and 3B sizes (text in/text out)
功能
按需部署
文档
On-demand deployments allow you to use meta-llama/llama-3.2-3b-instruct on dedicated GPUs with high-performance serving stack with high reliability and no rate limits.
信息
提供商
Llama
量化
bf16
支持的功能
上下文长度
32768
最大输出
32000
Serverless
不支持
输入能力
text
输出能力
text
构建生产级 AI 所需的一切。
200+ 个模型、按需 GPUs 和安全的智能体运行时——统一在一个 API 下。免费开始,随业务增长灵活扩展。