fish-speech 在50系列顯卡使用 --compile加速兼容

#環境說明

GPU: NVIDIA GeForce RTX 5080 Laptop GPU (sm_120)

win11家庭版 24H2

#問題匯總

baize.exceptions.HTTPException: (500, "'RuntimeError: `ptxas` failed with error code 4294967295: \\n\\n'")

問題匯總

1 baize.exceptions.HTTPException: (500, "'RuntimeError: `ptxas` failed with error code 4294967295: \\n\\n'")

說明:

PTX 匯編器）執行失敗，返回了錯誤代碼 4294967295

ptxas 是 NVIDIA CUDA 工具鏈中的 PTX (Parallel Thread Execution) 匯編器。當 CUDA 代碼（無論是直接寫的 .cu 文件還是通過 torch.compile 生成的）被編譯時，會先生成 PTX 代碼，然后 ptxas 將其匯編成二進制代碼（SASS）。
錯誤代碼 4294967295 是一個很大的無符號整數，通常表示 -1（如果按有符號整數解釋）或者表示一個通用的、未指定的失敗。這通常意味著 ptxas 在執行過程中遇到了嚴重問題，可能是輸入的 PTX 代碼有嚴重錯誤，或者 ptxas 本身或其依賴項（如驅動）有問題。

baize.exceptions.HTTPException: (500, '"backend=\'inductor\' raised:\\nImportError: DLL load failed while importing libtriton: 找不到指定的模塊。\\n\\n\\nYou can suppress this exception and fall back to eager by setting:\\n import torch._dynamo\\n torch._dynamo.config.suppress_errors = True\\n"')

說明:

DLL load failed while importing libtriton: 找不到指定的模塊。

這個錯誤通常發生在 Windows 系統上，尤其是在使用某些版本的 PyTorch 或與 CUDA 相關的庫時。Triton 是 torch.compile（特別是使用 'inductor' 后端時）依賴的一個庫，用于代碼生成和優化。DLL 加載失敗意味著 Python 無法找到或加載 Triton 所需的某個動態鏈接庫文件。

這很可能是 PyTorch 的編譯優化功能與你的系統環境（特別是 CUDA/Triton 庫）不兼容導致的。

?

'sm_120' is not a recognized processor for this target (ignoring processor)

ptxas fatal : Value 'sm_120' is not defined for option 'gpu-name'

說明:

在編譯 CUDA 代碼時，編譯器遇到了一個它不識別或不支持的 GPU 架構目標 sm_120

ptxas fatal : Value 'sm_120' is not a recognized processor for this target (ignoring processor): 這是致命錯誤，導致編譯過程失敗。ptxas 是 PTX (Parallel Thread Execution) 匯編器，它明確指出 sm_120 不是一個有效的 GPU 架構名稱。
sm_120 是什么？: sm_XX 是 NVIDIA 用來標識其 GPU 架構代號的命名方式（Streaming Multiprocessor）。例如：

sm_50: Maxwell
sm_60, sm_61, sm_62: Pascal
sm_70, sm_75: Volta
sm_80, sm_86, sm_89: Ampere
sm_90, sm_90a: Hopper
sm_89: Ada Lovelace (用于消費級 RTX 40 系列)

說明:

PyTorch 或 CUDA 工具鏈的 編譯錯誤

?

baize.exceptions.HTTPException: (500, '"FileNotFoundError: [Errno 2] No such file or directory: \'C:\\\\\\\\Users\\\\\\\\87753\\\\\\\\AppData\\\\\\\\Local\\\\\\\\Temp\\\\\\\\torchinductor_87753\\\\\\\\triton\\\\\\\\0\\\\\\\\QAVTUZC727AGUBQDWKDTRPI2HVHXXOE4SLZEB75DZ42XLWID4WLA\\\\\\\\tmp.pid_17188_7d16f0a2-f024-44fd-a2e2-4735300a49fb\\\\\\\\triton_red_fused__softmax__to_copy_argmax_clamp_div_exponential_index_put_lift_fresh_masked_fill_sub_44.ttir\'\\n"')

說明:

Windows 長路徑限制:

Windows 對文件路徑長度有限制（傳統上限是 260 個字符）。雖然現代 Windows 和 Python 通常能處理長路徑，但如果某些組件或設置未正確配置，極長的路徑（如此錯誤中的路徑）仍可能引發問題。

?

# 錯誤總結:

1 編譯錯誤:( cuda架構與pytorch版本不兼容 , cuda編譯環境不兼容 )

2 window路徑長度限制

# 解決方式

?

配置正確的python環境

目前支持50系列的nvidia的pytorch版本為 2.7.1 參考官網信息

windows環境下:

python >= 3.10

cuda tool 需要 12.8

pytorch torchaudio == 2.7.1+cu128

torch-complex == 0.4.4

xformers == 0.0.30

特別包官方只支持liunx ,windows需要手動:

flash_attn == 2.7.4.post1 ->https://github.com/kingbri1/flash-attention/releases

triton-windows == 3.3.1.post19 -> https://github.com/woct0rdho/triton-windows/release ( 2025年五月份補丁支持了s_120架構并上傳了pipy)

特別注意: triton 和 triton-windows 是同一技術的不同版本;

triton 官方僅支持liunx , windows 版本由開源社區維護 triton-windows , 類似(triton-3.0.0-cp311-cp311-win_amd64.whl) 都是liunx版本在windows跳過編譯錯誤打包成的, 實際無效, 且不要在pip環境同時存在這倆;

配置正確的C++環境?

2.1 安裝visual studio2022 ,選擇 windows桌面開發 , 重點勾選:

配置編譯環境變量?

默認visual studio2022安裝路徑在:

C:\Program Files\Microsoft Visual Studio\2022\Community

windows sdk :

C:\Program Files (x86)\Windows Kits\10

參考我的配置:

C:\Program Files\Microsoft Visual Studio\2022\Community\VC\Tools\MSVC\14.44.35207\bin\Hostx64\x64
C:\Program Files (x86)\Windows Kits\10\bin\10.0.26100.0\x64

C:\Program Files\Microsoft Visual Studio\2022\Community\VC\Tools\MSVC\14.44.35207\lib\x64
C:\Program Files (x86)\Windows Kits\10\Lib\10.0.26100.0\ucrt\x64
C:\Program Files (x86)\Windows Kits\10\Lib\10.0.26100.0\um\x64

C:\Program Files\Microsoft Visual Studio\2022\Community\VC\Tools\MSVC\14.44.35207\include
C:\Program Files (x86)\Windows Kits\10\Include\10.0.26100.0\ucrt
C:\Program Files (x86)\Windows Kits\10\Include\10.0.26100.0\um
C:\Program Files (x86)\Windows Kits\10\Include\10.0.26100.0\winrt
C:\Program Files (x86)\Windows Kits\10\Include\10.0.26100.0\cppwinrt
C:\Program Files (x86)\Windows Kits\10\Include\10.0.26100.0\shared

?CMD 命令行輸入: cl ，輸出 Microsoft (R) C/C++ Optimizing Compiler ... 即可

安裝正確的cuda tool工具鏈 ( nvidia官網下載 )

默認環境路徑配置會在安裝時自動設置( 如果沒有請手動設置 )

出現下面即可

修改windows系統限制?

Win + R，輸入 gpedit.msc

計算機配置 -> 管理模板 -> 系統 -> 文件系統

找到策略：啟用 Win32 長路徑。
將其設置為 已啟用
更改后需要重啟才能完全生效。

windows11家庭版開啟gpedit.msc的方法:

新建?gpedit.bat?

編輯:

@echo off
pushd "%~dp0"
dir /b %systemroot%\Windows\servicing\Packages\Microsoft-Windows-GroupPolicy-ClientExtensions-Package~3*.mum >gp.txt
dir /b %systemroot%\servicing\Packages\Microsoft-Windows-GroupPolicy-ClientTools-Package~3*.mum >>gp.txt
for /f %%i in ('findstr /i . gp.txt 2^>nul') do dism /online /norestart /add-package:"%systemroot%\servicing\Packages\%%i"
pause

以管理員身份運行!

其他操作:

確保以上所有動作都正確, 清理或刪除原編譯生產的緩存文件夾:

C:\Users\87753\AppData\Local\Temp\torchinductor_* ( 87753 是我的電腦管理員賬號名 )

清理之前的 triton 包殘留:

pip uninstall triton triton-windows

pip install --force-reinstall --no-deps triton-windows==3.3.1.post19

?

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/diannao/92896.shtml
繁體地址，請注明出處：http://hk.pswp.cn/diannao/92896.shtml
英文地址，請注明出處：http://en.pswp.cn/diannao/92896.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！