产品介绍
Ollama 是什么?
Ollama 是用于运行开放 AI 模型和构建相关应用的平台。本地应用允许开发者下载模型、在自己的设备上运行,并通过开发接口接入应用。其本地工作流可以完全离线运行,有助于把提示词和模型交互留在用户自己的硬件上。
Ollama 也提供云服务,用于运行更大的模型、处理并行任务,以及使用需要最新网络信息的能力。用户可根据模型规模、硬件、隐私要求和吞吐量,在本地与云端之间选择。
如何使用 Ollama
- 在受支持的计算机上安装 Ollama。
- 根据任务和设备性能选择并下载开放模型。
- 通过应用、命令行或集成的开发工具在本地运行模型。
- 将应用或 AI 智能体连接到本地 Ollama 服务。
- 需要更大模型、更多并行任务或云端能力时使用 Ollama Cloud。
核心功能
- 本地模型运行时: 在用户控制的硬件上下载并运行开放模型。
- 离线运行: 支持无需向托管模型服务发送提示词的完全本地工作流。
- 开发者集成: 提供将模型连接到应用和智能体流程的接口。
- 云端模型: 托管更大模型,并提供依赖云服务的能力。
- 灵活执行: 团队可按任务需求选择本地或云端处理。
- 模型库: 通过统一流程使用多种开放模型。
使用场景
- 私有助手: 围绕敏感内部数据构建本地问答和自动化工具。
- 应用开发: 使用本地运行时原型验证并运行模型功能。
- 离线 AI: 在网络受限或数据边界严格的环境中使用模型。
- 混合工作负载: 将合适的任务保留在本地,把更大任务放到云端。
价格
本地 Ollama 软件和开放模型工作流无需购买云端付费计划。Ollama Cloud 提供免费账户层级。Pro 当前为每月 20 美元或每年 200 美元,支持 3 个并行云模型并提供更高用量;Max 为每月 100 美元,支持 10 个并行云模型,用量高于 Pro。额度和模型范围可能变化,使用前应核对最新计划页面。
常见问题
Ollama 可以完全离线运行吗?
可以。完成软件和模型下载后,Ollama 支持完全离线运行。
Ollama 会用用户数据训练模型吗?
Ollama 表示不会使用用户数据训练模型。本地处理还会把模型交互保留在用户设备中。
什么时候适合使用 Ollama Cloud?
当模型超出本地硬件能力、需要并行云端任务,或功能依赖托管服务与最新网络信息时适合使用。


