下载和运行 AI 模型,为本地对话与应用提供模型服务
基本信息
- 用途
- 下载和运行 AI 模型,为本地对话与应用提供模型服务
- 分类
- 智能体
- 出品方
- Ollama
- 官网
- https://ollama.com/(新窗口打开)
主要功能
- 下载和管理可运行的大语言模型
- 在电脑上运行本地模型
- 通过接口为其他应用提供模型服务
- 也提供云端模型选项
适用场景
适合希望在自己的电脑上运行模型,或为本地知识库和编程工具配置模型服务的用户。
使用须知
- 本地使用前需要安装程序和下载模型,运行效果受硬件和模型大小影响
- 使用云端模型时会涉及网络传输,与本地运行的数据处理方式不同
常见问题
- 只能使用云端模型吗?
- 不是。官方文档提供下载并在本机运行模型的方式。
- 可以连接其他应用吗?
- 可以。官方文档提供 API 及应用集成说明。