启鑫的黑板报

标签： conda

  • Windows11安装和配置Stable Diffusion web UI

    1. 安装 Git 和 Conda

    首先，确保你的系统中已安装 Git 和 Conda。如果尚未安装，可以通过以下链接下载并安装：

    2. 创建并激活 Conda 环境

    打开终端（推荐使用 Anaconda Prompt 或 PowerShell），输入以下命令来创建一个新的 Python 3.10.6 环境并激活它：

    conda create --name sdai python=3.10.6
conda activate sdai

    这将创建一个名为“sdai”的Conda环境，并使用Python 3.10.6版本。激活后，你的终端将切换到该环境。

    3. 克隆 Stable Diffusion web UI 仓库

    使用 Git 克隆 Stable Diffusion web UI 的 GitHub 仓库，然后进入该目录：

    git https://github.com/AUTOMATIC1111/stable-diffusion-webui
cd sdai

    这样你就成功克隆了仓库并进入相应目录。

    4. 启动 Stable Diffusion web UI

    安装完成后，在同一目录下运行以下命令启动Stable Diffusion web UI：

    python launch.py

    如果一切顺利，Stable Diffusion web UI将启动，你可以通过浏览器访问它的界面。

    在浏览器中访问 http://localhost:7860

  • Ubuntu 24.04 安装 vLLM

    安装要求

    • 操作系统：Linux（Ubuntu 24.04）
    • Python：3.12
    • GPU 支持：NVIDIA A100、RTX 系列（需安装 NVIDIA 驱动和 CUDA）

    一、安装 Miniconda

    1. 下载并安装 Miniconda：
    mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm ~/miniconda3/miniconda.sh
    1. 初始化 shell 环境
    source ~/miniconda3/bin/activate
    1. 初始化 Conda 到所有可用 shell：
    conda init --all

    二、创建 Python 虚拟环境并安装 vLLM

    1. 创建基于 Python 3.12 的虚拟环境：
    conda create -n vllm python=3.12 -y
    1. 激活环境：
    conda activate vllm
    1. 使用 pip 安装 vLLM：
    pip install vllm

    三、安装gemma-3-27b-it-qat

    1. 加载并运行模型
    vllm serve "google/gemma-3-27b-it-qat-q4_0-gguf"
    1. 浏览器访问API
    http://localhost:8000