進入InterStudio
這節課是為了讓大家熟悉使用InterStudio平臺,以便后續開發
InterStudio平臺是算力平臺,可以通過平臺使用A100,還可以使用“書生”團隊集成好的環境、工具,快速部署LLMs.
進入平臺:
記得報名,獲得免費算力,地址:InternStudio
配置ssh:
具體的配置ssh key方法 請看:
https://aicarrier.feishu.cn/wiki/VLS7w5I22iQWmTk0ExpczIKcnpf
創建開發機:
報好名進群登記后就有50點算力啦,直接創建一個最小資源的開發機熟悉一下,
cuda環境選和自己設備最接近的,以便于日后遷移。
數據:
所有的數據都在“我的云盤”,可以理解為這就是你的系統盤,所以只要配好一套環境,新的開發及都會使用同一個conda。文件夾數據都會在相同的位置。
進入開發機:
有兩種選擇,
本地使用Vscode連接服務器
點擊ssh連接
復制登陸命令
回車會進入ssh config 文件保存,因為已經配置ssh key不用管密碼,
在ssh列表中找到ssh.intern-ai.org.cn
點擊直接連接,實現本地vscode連接interStudio服務器
網頁訪問平臺的Vscode,終端
點擊進入開發機,有vscode和terminal選項
端口映射:
? ? ? ? 1.安裝gradio
pip install gradio==4.29.0
如果庫沖突,按照指示修改
我需要修改的庫版本如下:
- pip install importlib-metadata==6.6
- pip install requests~=2.29
- pip install urllib3~=2.0
? ? ? ?2. 復制代碼:
? ? ? ? 創建一個hello.py文
import socket
import re
import gradio as gr# 獲取主機名
def get_hostname():hostname = socket.gethostname()match = re.search(r'-(\d+)$', hostname)name = match.group(1)return name# 創建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:html_code = f"""<p align="center"><a href="https://intern-ai.org.cn/home"><img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;"></a></p><h1 style="text-align: center;">?? Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1><h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2><p align="center"><a href="https://github.com/InternLM/Tutorial/blob/camp3"><img src="https://oss.lingkongstudy.com.cn/blog/202406301604074.jpg" alt="Logo" width="20%" style="border-radius: 5px;"></a></p>"""gr.Markdown(html_code)demo.launch()
????????本地網頁打開遠程服務器運行的代碼。
? ? ? ? 3.打開cmd.使用ssh連接服務器
4.運行代碼:
打開網頁
如果沒有cmd連接ssh是無法打開的噢
linux常用命令
建議大家查看活動的官方教程Docs
其中比較重要的是查看自己的GPU?
1.studio-smi?
2.克隆環境
tar --skip-old-files -xzvf /share/pkgs.tar.gz -C ${CONDA_HOME}conda create -n $target --clone ${SHARE_CONDA_HOME}/${source}
第一步,將新的conda環境創建到/share/conda_envs下
conda create -p /share/conda_envs/xxx python=3.1x
第二步,將本機/root/.conda/pkgs下的文件拷貝到/share/pkgs中,重新壓縮并替換(此步驟是為了把conda創建過程中大的公共包存儲起來,避免重復下載)
cp -r -n /root/.conda/pkgs/* /share/pkgs/
cd /share && tar -zcvf pkgs.tar.gz pkgs
第三步,更新install_conda_env.sh中的list函數,增加新的conda環境說明。
常見問題
-
InternStudio 開發機的環境玩壞了,如何初始化開發機環境
慎重執行!!!!所有數據將會丟失,僅限 InternStudio 平臺,自己的機器千萬別這么操作
-
第一步本地終端 ssh 連上開發機(一定要 ssh 連接上操作,不能在 web 里面操作!!!)
-
第二步執行
rm -rf /root
,大概會等待10分鐘 -
第三步重啟開發機,系統會重置 /root 路徑下的配置文件
-
第四步
ln -s /share /root/share