Mamba的論文：https://arxiv.org/abs/2312.00752

Mamba的github：https://github.com/state-spaces/mamba

一、Ubuntu安裝

直接新建一個環境是最好的，不然很容易產生各種沖突

# 創建環境和相關包
conda create -n mamba python=3.10.13
conda activate mamba
conda install cudatoolkit==11.8 -c nvidia
pip install torch==2.1.1 torchvision==0.16.1 torchaudio==2.1.1 --index-url https://download.pytorch.org/whl/cu118
conda install -c "nvidia/label/cuda-11.8.0" cuda-nvcc
conda install packaging# 安裝conv1d和mamba
git clone https://github.com/Dao-AILab/causal-conv1d.git 
cd causal-conv1d 
git checkout v1.2.0 # current latest version tag 
CAUSAL_CONV1D_FORCE_BUILD=TRUE pip install .
cd ..
git clone https://github.com/state-spaces/mamba.git
cd ./mamba
git checkout v1.2.0 # current latest version tag
MAMBA_FORCE_BUILD=TRUE pip install .

中間只是需要等待一些時間，結束完就可以測試使用啦，官方提供的測試代碼如下：

import torch
from mamba_ssm import Mambabatch, length, dim = 2, 64, 16
x = torch.randn(batch, length, dim).to("cuda")
model = Mamba(# This module uses roughly 3 * expand * d_model^2 parametersd_model=dim, # Model dimension d_modeld_state=16,  # SSM state expansion factord_conv=4,    # Local convolution widthexpand=2,    # Block expansion factor
).to("cuda")
y = model(x)
assert y.shape == x.shape

二、Windows安裝

• 相關包下載

Mamba主要涉及到四個包，packaging、triton、conv1d、mamba，其中第一個是windows可用的，直接安裝就行，后三個是linux版本，但是有大佬們提供了編譯好的文件。

triton：https://hf-mirror.com/r4ziel/xformers_pre_built/blob/main/triton-2.0.0-cp310-cp310-win_amd64.whl

conv1d和mamba：Mamba-Packages，這里面也包括了triton。

下載好三個.whl文件后，就可以開始一路安裝了

• 安裝

# 環境創建和基礎安裝
conda create -n your_env_name python=3.10.13
conda activate your_env_name
conda install cudatoolkit==11.8 -c nvidia
pip install torch==2.1.1 torchvision==0.16.1 torchaudio==2.1.1 --index-url https://download.pytorch.org/whl/cu118
conda install -c "nvidia/label/cuda-11.8.0" cuda-nvcc
conda install packaging# 包安裝，記得先進入whl對應的目錄
pip install triton-2.0.0-cp310-cp310-win_amd64.whl
pip install causal_conv1d-1.1.1-cp310-cp310-win_amd64.whl
pip install mamba_ssm-1.2.0.post1-py3-none-any.whl

接下來就是等待安裝完畢

參考鏈接

Windows和Linux系統上的Mamba_ssm環境配置

（Windows傻瓜教程）Mamba安裝以及問題匯總（Causal-Conv1d & Mamba-ssm）

Mamba 環境安裝踩坑問題匯總及解決方法