AdaLoRA 參數 配置：CAUSAL_LM" 表示因果語言模型任務

config = AdaLoraConfig(
init_r=16, # 增加 LoRA 矩陣的初始秩
lora_alpha=32,
target_modules=[“q_proj”, “v_proj”],
lora_dropout=0.1,
bias=“none”,
task_type=“CAUSAL_LM”
)

整體功能概述

AdaLoraConfig 是 peft 庫中用于配置自適應低秩自適應（AdaLoRA）微調方法的類。AdaLoRA 是對 LoRA（Low-Rank Adaptation）的改進，通過自適應地調整低秩矩陣的縮放因子，在微調大型預訓練模型時減少需要訓練的參數數量，從而提高訓練效率。

參數解釋

1. init_r=16