目錄

一、安裝 Miniconda

1.1 下載 Miniconda 安裝腳本

1.2 運行安裝腳本

1.3 初始化 Conda： 安裝完成后，初始化 Conda 環境

1.4 驗證安裝

二、設置虛擬環境默認存放路徑（可選）

三、conda創建虛擬環境

3.1?創建 Conda 環境

3.2 激活環境

3.3?安裝依賴（可選）

實用擴展命令

---

【詳細conda命令】

常用conda命令可看：

▲【Canda】常用命令+虛擬環境創建到選擇_使用conda創建虛擬環境的命令-CSDN博客▲▲【Canda】常用命令+虛擬環境創建到選擇_使用conda創建虛擬環境的命令-CSDN博客

應用至jupterlab可看：

▲【Conda】環境應用至JupyterLab_conda install jupyterlab-CSDN博客

---

一、安裝 Miniconda

Miniconda 是一個輕量級的 Conda 發行版，適合服務器環境。

1.1 下載 Miniconda 安裝腳本

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

---

1.2 運行安裝腳本

bash Miniconda3-latest-Linux-x86_64.sh -u

▲回車：進入協議，多點幾下

?▲輸入yes，同意協議條款

?▲選擇存放路徑（推薦放在數據盤），如下：

/mnt/workspace/miniconda

/mnt/workspace是數據盤。?

?

---

1.3 初始化 Conda： 安裝完成后，初始化 Conda 環境

source /mnt/workspace/miniconda/bin/activate

---

1.4 驗證安裝

conda --version

輸出示例：conda 25.5.1。

---

二、設置虛擬環境默認存放路徑（可選）

conda config --add envs_dirs /mnt/workspace/conda_env

▲/mnt/data/conda_env 表示存放路徑?

說明：只需設置一次，后面構建的虛擬環境都會默認存放在該路徑下。如果需要再次更換存放路徑再執行。

---

三、conda創建虛擬環境

3.1?創建 Conda 環境

1、創建新環境： 指定 Python 版本（如 3.11，兼容 Hugging Face、PEFT 等）：

conda create -n download_model python=3.11

?▲download_model 表示創建的虛擬環境名稱，可以自定義

---

3.2 激活環境

conda activate download_model

? 提示符將變為 (llm_env)。

---

3.3?安裝依賴（可選）

說明：以下步驟根據自己項目需求，自主選擇安裝相應依賴；

1、安裝Pytorch 12.6

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

用來 安裝 PyTorch 及其相關庫（帶 CUDA 12.6 GPU 加速支持）

注意：

▲安裝pytorch前先確定自己電腦是否有GPU，沒有GPU請安裝cpu版本的；

pip3 install torch torchvision torchaudio

▲確保CUDA 12.6版本可以兼容

確定是否兼容可參考該文章對應內容：【CUDA&cuDNN安裝】深度學習基礎環境搭建_cudnn安裝教程-CSDN博客

---

2、安裝transformers

pip install transformers==4.53.0

▲Hugging Face 推出的一個非常強大且廣泛使用的 預訓練模型庫，它是 NLP、CV、語音等領域深度學習開發的“瑞士軍刀”。

▲transformers 是一個支持 加載、使用、微調、部署各種大模型 的工具庫，比如 BERT、GPT、T5、RoBERTa、ChatGPT、Qwen、LLaMA 等。

---

3、安裝datasets

pip install datasets

數據集加載和處理工具庫，主要用于 自然語言處理（NLP） 任務，也可以用于其他機器學習任務。

datasets 就像是一個 “數據集超市”，你只需一行代碼，就可以下載并使用成千上萬的標準數據集，比如：

• 情感分類（SST-2、IMDB）

• 閱讀理解（SQuAD）

• 文本生成（Wikitext、CNN/DailyMail）

• 機器翻譯（WMT）

• 多語言任務（XNLI）

• 還有圖像、音頻、表格等多模態任務！

  datasets 就像是一個 “數據集超市”，你只需一行代碼，就可以下載并使用成千上萬的標準數據集，比如：

• 情感分類（SST-2、IMDB）

• 閱讀理解（SQuAD）

• 文本生成（Wikitext、CNN/DailyMail）

• 機器翻譯（WMT）

• 多語言任務（XNLI）

• 還有圖像、音頻、表格等多模態任務！

---

實用擴展命令

1、檢查磁盤空間：?

df -h

?2、監控內存： 微調或推理時，實時監控GPU狀態

#安裝gpu監控插件
pip install nvitop#啟動監控
nvitop

?3、GPU 驅動和 CUDA：若使用 QLoRA 或 GGUF 推理，需確保 NVIDIA 驅動和 CUDA 已安裝：

nvidia-smi

?4.克隆環境

conda create -n ollama --clone download_model

▲ollama表示新創建的虛擬環境；

▲--clone download_model:表示把舊虛擬環境download_model中的依賴復制到新環境中；?

5、刪除虛擬環境

conda env remove -n llm_env

▲llm_env：表示需要刪除的虛擬環境?

6、退出虛擬環境

conda deactivate

7、查看服務器內存

free -h

示例：?

??