启鑫的黑板报

标签： VS Code

  • LM Studio 本地大模型教程：VS Code 使用 Claude Code 实现本地 LLM 调用与部署

    通过 LM Studio 的 Anthropic‑兼容本地服务，将本地 LLM 模型与 Claude Code 集成，使用户能够在 VS Code 或终端 中直接调用本地部署的语言模型进行交互。实现与本地模型的对接。支持更大的上下文长度、流式输出和函数调用等高级功能

    1. 环境说明

    • 操作系统：Windows 11
    • 本地模型工具：LM Studio
    • 编辑器：Visual Studio Code
    • VSCode 插件：Claude Code

    2. 安装 LM Studio

    2.1 下载并安装

    1. 访问 LM Studio 官网，下载 Windows 版本安装包。
    2. 安装完成后启动 LM Studio。
    3. 在“Models”页面下载大模型，例如：
       openai/gpt-oss-20b

    2.2 开启 Developer Mode（本地 API 访问）

    1. 打开：
       Settings → Developer → Local Server
    1. 设置监听地址：
       http://localhost:1234
    1. 启动 API Server，确保浏览器或 VSCode 可以访问：
       http://localhost:1234

    2.3 加载模型

    1. 点击 Load Model。
    2. 选择模型：
       openai/gpt-oss-20b
    1. 设置模型参数：
    • Context length：100000
    • GPU Offload：16 （根据显存大小调整）

    ⚠️ 注意：20B 模型对显存要求高，建议显卡显存≥24GB，或者使用 CPU Offload 功能。

    3. VSCode 配置 Claude Code

    3.1 安装插件

    1. 打开 VSCode。
    2. 扩展市场搜索：
       Claude Code
    1. 点击安装。

    3.2 配置环境变量

    1. 打开命令面板：Ctrl + Shift + P
    2. 输入：
       Preferences: Open Settings (JSON)
    1. 添加以下配置：
    {
    "workbench.colorTheme": "Experimental Light",
    "claudeCode.preferredLocation": "panel",
    "claudeCode.environmentVariables": [
        {
            "name": "ANTHROPIC_BASE_URL",
            "value": "http://localhost:1234"
        },
        {
            "name": "ANTHROPIC_AUTH_TOKEN",
            "value": "lmstudio"
        }
    ]
}

    3.3 测试连接

    1. 在 VSCode 中打开 Claude Code 面板。
    2. 尝试发送一条简单的指令，例如：
       Hello
    1. 如果能正确返回结果，说明 VSCode 已经成功连接到本地 LM Studio 模型。

  • 在 VS Code编辑器中使用 LM Studio API + Continue 打造智能开发环境

    在日常开发中大语言模型（LLM）已经成为许多开发者的得力助手。LM Studio 提供了本地运行大模型的能力，而 Continue 插件则能在 VS Code 中无缝调用这些模型，带来智能补全、对话和代码生成体验。通过 Continue 插件接入 LM Studio 的 API，我们可以让本地或局域网部署的 AI 模型无缝集成到开发环境中。

    这种组合不仅能提供媲美云端的 AI 开发体验，还能保障数据隐私、不依赖外网。在代码补全、错误排查、文档生成等场景中，都能显著提升效率。

    一、准备工作

    1. 安装 LM Studio
    • 前往 LM Studio 官网下载并安装。
    • 启动后，根据需求下载模型（如 gpt-oss-20b、Qwen 等）。
    1. 安装 VS Code 与 Continue 插件
    • 打开 VS Code → Extensions → 搜索 Continue 并安装。
    • 安装完成后，左侧工具栏会出现 Continue 图标。

    二、启动 LM Studio API 服务

    1. 打开 LM Studio，进入 开发者模式。
    2. 加载所需模型（例如 gpt-oss-20b）。
    3. 启动 API 服务，默认会监听本地或局域网 IP 上的指定端口，例如：
    http://192.168.1.100:1234/v1

    三、配置 Continue 插件

    Continue 的配置文件默认路径如下：

    • Windows: C:\Users\<用户名>\.continue\config.yaml
    • macOS/Linux: ~/.continue/config.yaml

    示例配置：

    name: Local Agent
version: 1.0.0
schema: v1
models:
  - name: gpt-oss-20b
    provider: lmstudio
    model: openai/gpt-oss-20b
    apiBase: http://192.168.1.100:1234/v1/

    ⚠️ 注意：如果需要局域网访问，请将 localhost 替换为实际 IP 地址。

    四、开始使用

    1. 打开 VS Code，点击左侧 Continue 图标。
    2. 在对话框中选择你配置好的模型（如 gpt-oss-20b）。
    3. 输入问题，即可与模型对话，体验智能补全、调试和代码生成。