OLLAMA 安装与配置指南

1. 什么是 LLM（大语言模型）

大语言模型（LLM，Large Language Model）是一类基于深度学习的人工智能模型，专门用于自然语言处理（NLP）任务。这些模型通过大规模数据训练，具备强大的文本理解、生成和推理能力。

LLM 具有以下特点：

• 大规模参数：通常拥有数十亿甚至上千亿的参数，使其能够处理复杂的语言任务。
• 多任务适应性：可以用于文本生成、翻译、问答、代码补全等任务。
• 上下文理解能力：可以根据上下文生成连贯且符合语境的文本。
• 自我学习能力：能够通过微调适应特定领域的应用。

常见的大语言模型包括 OpenAI 的 GPT 系列、Meta 的 LLaMA 系列以及其他主流开源模型。

2. 为什么使用 OLLAMA

OLLAMA 是一个强大的 AI 模型管理和运行工具，提供了高效、便捷的 LLM 部署方式，主要优势包括：

• 简易部署：支持快速安装和配置，适合开发者和研究人员。
• 高效运行：优化的推理性能，减少计算资源占用，提高响应速度。
• 灵活扩展：支持多个模型的下载和运行，满足不同任务需求。
• 跨平台支持：兼容 Windows、Linux 和 macOS，适用于不同开发环境。

3. 安装 OLLAMA

可以通过以下链接下载并安装 OLLAMA：
OLLAMA 官方网站

4. 下载模型

安装完成后，可以从 OLLAMA 官方库中下载所需的 AI 模型：
OLLAMA 模型库

使用以下命令运行指定的模型，例如 llama3.3 70B 版本：

ollama run llama3.3:70b

5. Windows 环境变量配置

在 Windows 系统中，可以通过环境变量配置 OLLAMA 运行环境，设置如下：

# 指定模型存储路径
OLLAMA_MODELS=D:\ollama\models

# 允许跨域访问
OLLAMA_ORIGINS=*

# 允许外部访问 OLLAMA
OLLAMA_HOST=0.0.0.0

配置完成后，请重启系统或终端以使环境变量生效。

6. 安装 Cherry Studio 客户端

Cherry Studio 是一款支持 OLLAMA 的 AI 开发工具。安装 Cherry Studio 后，可启用 OLLAMA 支持并配置下载的模型。