启鑫的黑板报

标签： Claude Code

  • LM Studio 本地大模型教程：VS Code 使用 Claude Code 实现本地 LLM 调用与部署

    通过 LM Studio 的 Anthropic‑兼容本地服务，将本地 LLM 模型与 Claude Code 集成，使用户能够在 VS Code 或终端 中直接调用本地部署的语言模型进行交互。实现与本地模型的对接。支持更大的上下文长度、流式输出和函数调用等高级功能

    1. 环境说明

    • 操作系统：Windows 11
    • 本地模型工具：LM Studio
    • 编辑器：Visual Studio Code
    • VSCode 插件：Claude Code

    2. 安装 LM Studio

    2.1 下载并安装

    1. 访问 LM Studio 官网，下载 Windows 版本安装包。
    2. 安装完成后启动 LM Studio。
    3. 在“Models”页面下载大模型，例如：
       openai/gpt-oss-20b

    2.2 开启 Developer Mode（本地 API 访问）

    1. 打开：
       Settings → Developer → Local Server
    1. 设置监听地址：
       http://localhost:1234
    1. 启动 API Server，确保浏览器或 VSCode 可以访问：
       http://localhost:1234

    2.3 加载模型

    1. 点击 Load Model。
    2. 选择模型：
       openai/gpt-oss-20b
    1. 设置模型参数：
    • Context length：100000
    • GPU Offload：16 （根据显存大小调整）

    ⚠️ 注意：20B 模型对显存要求高，建议显卡显存≥24GB，或者使用 CPU Offload 功能。

    3. VSCode 配置 Claude Code

    3.1 安装插件

    1. 打开 VSCode。
    2. 扩展市场搜索：
       Claude Code
    1. 点击安装。

    3.2 配置环境变量

    1. 打开命令面板：Ctrl + Shift + P
    2. 输入：
       Preferences: Open Settings (JSON)
    1. 添加以下配置：
    {
    "workbench.colorTheme": "Experimental Light",
    "claudeCode.preferredLocation": "panel",
    "claudeCode.environmentVariables": [
        {
            "name": "ANTHROPIC_BASE_URL",
            "value": "http://localhost:1234"
        },
        {
            "name": "ANTHROPIC_AUTH_TOKEN",
            "value": "lmstudio"
        }
    ]
}

    3.3 测试连接

    1. 在 VSCode 中打开 Claude Code 面板。
    2. 尝试发送一条简单的指令，例如：
       Hello
    1. 如果能正确返回结果，说明 VSCode 已经成功连接到本地 LM Studio 模型。