【GPT入門】第48課 LlamaFacotory 合并原模型與LoRA模型

1.合并原模型與LoRA訓練的增量模型
2. 測試模型

1.合并原模型與LoRA訓練的增量模型

llamafactory-cli webui 執行合并

在這里插入圖片描述

合并后模型大小

(base) root@autodl-container-b4b04ea4f2-b5ee47d1:~# du -sh  /root/autodl-tmp/models/*
15G     /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1
15G     /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged
15G     /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui

模型文件詳情

(base) root@autodl-container-b4b04ea4f2-b5ee47d1:~# du -sh  /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/*
4.0K    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/Modelfile
4.0K    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/chat_template.jinja
4.0K    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/config.json
4.0K    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/generation_config.json
4.7G    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/model-00001-of-00004.safetensors
4.7G    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/model-00002-of-00004.safetensors
4.6G    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/model-00003-of-00004.safetensors
1.1G    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/model-00004-of-00004.safetensors
24K     /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/model.safetensors.index.json
4.0K    /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/special_tokens_map.json
17M     /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/tokenizer.json
52K     /root/autodl-tmp/models/Llama3-8B-Chinese-Chat1-merged-ui/tokenizer_config.json

2. 測試模型

在這里插入圖片描述

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/news/919540.shtml
繁體地址，請注明出處：http://hk.pswp.cn/news/919540.shtml
英文地址，請注明出處：http://en.pswp.cn/news/919540.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！