LM Studio 本地大模型教程:VS Code 使用 Claude Code 实现本地 LLM 调用与部署

通过 LM Studio 的 Anthropic‑兼容本地服务,将本地 LLM 模型与 Claude Code 集成,使用户能够在 VS Code 或终端 中直接调用本地部署的语言模型进行交互。实现与本地模型的对接。支持更大的上下文长度、流式输出和函数调用等高级功能

1. 环境说明

  • 操作系统:Windows 11
  • 本地模型工具:LM Studio
  • 编辑器:Visual Studio Code
  • VSCode 插件:Claude Code

2. 安装 LM Studio

2.1 下载并安装

  1. 访问 LM Studio 官网,下载 Windows 版本安装包。
  2. 安装完成后启动 LM Studio。
  3. 在“Models”页面下载大模型,例如:
   openai/gpt-oss-20b

2.2 开启 Developer Mode(本地 API 访问)

  1. 打开:
   Settings → Developer → Local Server
  1. 设置监听地址:
   http://localhost:1234
  1. 启动 API Server,确保浏览器或 VSCode 可以访问:
   http://localhost:1234

2.3 加载模型

  1. 点击 Load Model
  2. 选择模型:
   openai/gpt-oss-20b
  1. 设置模型参数:
  • Context length:100000
  • GPU Offload:16 (根据显存大小调整)

⚠️ 注意:20B 模型对显存要求高,建议显卡显存≥24GB,或者使用 CPU Offload 功能。

3. VSCode 配置 Claude Code

3.1 安装插件

  1. 打开 VSCode。
  2. 扩展市场搜索:
   Claude Code
  1. 点击安装。

3.2 配置环境变量

  1. 打开命令面板:Ctrl + Shift + P
  2. 输入:
   Preferences: Open Settings (JSON)
  1. 添加以下配置:
{
    "workbench.colorTheme": "Experimental Light",
    "claudeCode.preferredLocation": "panel",
    "claudeCode.environmentVariables": [
        {
            "name": "ANTHROPIC_BASE_URL",
            "value": "http://localhost:1234"
        },
        {
            "name": "ANTHROPIC_AUTH_TOKEN",
            "value": "lmstudio"
        }
    ]
}

3.3 测试连接

  1. 在 VSCode 中打开 Claude Code 面板。
  2. 尝试发送一条简单的指令,例如:
   Hello
  1. 如果能正确返回结果,说明 VSCode 已经成功连接到本地 LM Studio 模型。

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注