1、新建conda環境名稱為llama_factory,并激活
conda create -n llama_factory python=3.10
conda activate llama_factory
2、激活后可檢查內部包是否純凈,要確保環境內包較純凈,不然后續安裝對應包會出現一系列水土不服的問題,導致安裝包沖突而失敗
pip list # 顯示初始環境內包環境如下
3、首先安裝bitsandbytes庫,可添加鏡像源,命令如下
pip install bitsandbytes>=0.39.0 -i https://pypi.tuna.tsinghua.edu.cn/simple/# 運行成功顯示信息如下
Successfully installed MarkupSafe-3.0.2
bitsandbytes-0.46.1
filelock-3.18.0
fsspec-2025.7.0
jinja2-3.1.6
mpmath-1.3.0
networkx-3.4.2
numpy-2.2.6
nvidia-cublas-cu12-12.6.4.1
...
4、下載llama factory代碼,并cd到文件夾內部,然后運行官網給的pip命令,同樣可以添加鏡像源,不然會有包下載失敗,導致一直重新裝
pip install -e ".[torch,metrics,gptq]" -i https://pypi.tuna.tsinghua.edu.cn/simple/
過程中會出現如下步驟情況,時間稍微久一點,等待即可
安裝完同樣會出現如下提示
5、終端運行 llamafactory-cli version 查看是否安裝成功,顯示如下信息
llamafactory-cli version
6、啟動web端進行顯示命令
llamafactory-cli webui
效果如下
7、注意事項
(1)、初始環境一定要較為純凈,不然可能會導致庫之間的沖突而安裝失敗
(2)、安裝命令皆可添加鏡像源,防止過程中下載失敗導致一直重新安裝庫