1. 安裝 Miniconda（若未安裝）

Miniconda 是 Anaconda 的輕量版，僅包含 Conda 和 Python，適合服務器環境。

下載并安裝 Miniconda

下載地址：Index of /miniconda?，可以自行選擇適合的版本

# 下載最新版 Miniconda（Linux x86_64）
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh# 運行安裝腳本（默認安裝到 ~/miniconda3）
bash Miniconda3-latest-Linux-x86_64.sh

• 安裝時按提示操作，建議選擇：

  • 安裝路徑：默認?~/miniconda3（無需 root 權限）或?/opt/miniconda3（需?sudo）。

  • 初始化 Conda：選擇?yes，將 Conda 加入?~/.bashrc。

激活 Conda

bash

# 重新加載 Shell 配置
source ~/.bashrc  # 或重新連接終端# 驗證安裝
conda --version  # 應輸出 conda 版本（如 24.1.2）

---

2. 創建并激活 Conda 環境

bash

# 創建名為 xinference_env 的環境，指定 Python 3.11
conda create -n xinference_env python=3.11 -y# 激活環境
conda activate xinference_env

關鍵點：

• 環境名稱可自定義（如?xinference_env）。

• 指定 Python 版本（xinference?通常需要 Python 3.8+）。

---

3. 安裝?xinference[all]

使用阿里云鏡像加速安裝

bash

pip install "xinference[all]" -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com

（可選）通過 Conda 安裝部分依賴

如果某些依賴（如 PyTorch）通過 Conda 安裝更穩定：

bash

# 例如安裝 PyTorch + CUDA 12.1
conda install -c pytorch -c nvidia pytorch torchvision torchaudio pytorch-cuda=12.1 -y# 再安裝 xinference[all]
pip install "xinference[all]" --no-deps  # 跳過已安裝的依賴

---

4. 驗證安裝

bash

# 檢查 xinference 是否可導入
python -c "from xinference.client import RESTfulClient; print('Success!')"# 查看已安裝的包
conda list  # 或 pip list

---

5. 使用環境

bash

# 每次使用前激活環境
conda activate xinference_env# 啟動 xinference 服務（示例）
xinference-local --host 0.0.0.0 --port 9997

---

6. 管理環境

退出環境

bash

conda deactivate

刪除環境（如需清理）

bash

conda remove -n xinference_env --all -y

備份環境

bash

conda env export > xinference_env.yaml  # 導出配置
conda env create -f xinference_env.yaml  # 從文件恢復

---

常見問題解決

Q1: Conda 安裝速度慢？

• 換國內鏡像源：

  bash

  conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
  conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
  conda config --set show_channel_urls yes

Q2: 安裝時出現沖突？

• 嘗試清理沖突包：

  bash

  conda clean --all -y
  pip cache purge

Q3: CUDA 版本不匹配？

• 明確指定 CUDA 版本：

  bash

  conda install -c pytorch -c nvidia pytorch pytorch-cuda=12.1 -y

---

方案對比

特性	Conda 環境	Python venv
依賴管理	支持二進制包（如 CUDA 庫）	僅限 Python 包
隔離性	完全隔離（包括系統庫）	僅隔離 Python 包
適用場景	需要復雜依賴（PyTorch+CUDA）	輕量級 Python 項目
安裝速度	較慢（需下載二進制包）	較快

---

總結

• 推薦 Conda：適合需要管理 CUDA、PyTorch 等復雜依賴的場景。

• 步驟精簡：

  1. 安裝 Miniconda → 2. 創建環境 → 3. 安裝?xinference[all]。

• 優勢：避免污染系統環境，依賴沖突概率極低。