概述
本文記錄在本地部署騰訊混元大模型的過程。僅為部署記錄,不涉及過多的技術要點。
混元大模型主頁:https://github.com/Tencent/HunyuanVideo
該模型應該是當前開源的效果不錯的模型,其實官方文檔將部署過程寫的相當詳細了,但是這里為了便于后期的學習,特意將部署過程記錄下,因為部署過程中還是有寫一些問題在的。
官方配置過程
1 下載項目
//也可以在官網 下載zip 然后本地解壓
git clone https://github.com/tencent/HunyuanVideo
cd HunyuanVideo
2 環境配置
【注意】模型官方推薦的CUDA版本為 12.4或者11.8,所以您的CUDA版本應為 12.4及以上,或者11.8-12.4 因為CUDA高版本對低版本有兼容性的。我跑這個模型 CUDA版本為12.2,所以后續在配置環境時,主要參考11.8進行配置。
We recommend CUDA versions 12.4 or 11.8 for the manual installation.
具體的環境配置參照官方得文檔即可。注意 您的CUDA版本如果低于 12.4 參考 11.8進行配置。
# 1. Create conda environment
conda create -n HunyuanVideo python==3.10.9# 2. Activate the environment
conda activate HunyuanVideo# 3. Install PyTorch and other dependencies using conda
# For CUDA 11.8
conda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=11.8 -c pytorch -c nvidia
# For CUDA 12.4
conda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=12.4 -c pytorch -c nvidia# 4. Install