llama factory新手初步運行完整版

1、新建conda環境名稱為llama_factory,并激活

conda create -n llama_factory python=3.10
conda activate llama_factory

2、激活后可檢查內部包是否純凈,要確保環境內包較純凈,不然后續安裝對應包會出現一系列水土不服的問題,導致安裝包沖突而失敗

pip list      # 顯示初始環境內包環境如下

在這里插入圖片描述

3、首先安裝bitsandbytes庫,可添加鏡像源,命令如下

pip install bitsandbytes>=0.39.0 -i https://pypi.tuna.tsinghua.edu.cn/simple/# 運行成功顯示信息如下
Successfully installed MarkupSafe-3.0.2 
bitsandbytes-0.46.1 
filelock-3.18.0 
fsspec-2025.7.0 
jinja2-3.1.6 
mpmath-1.3.0 
networkx-3.4.2 
numpy-2.2.6 
nvidia-cublas-cu12-12.6.4.1 
...

4、下載llama factory代碼,并cd到文件夾內部,然后運行官網給的pip命令,同樣可以添加鏡像源,不然會有包下載失敗,導致一直重新裝

pip install -e ".[torch,metrics,gptq]"  -i https://pypi.tuna.tsinghua.edu.cn/simple/

過程中會出現如下步驟情況,時間稍微久一點,等待即可
在這里插入圖片描述
安裝完同樣會出現如下提示
在這里插入圖片描述
5、終端運行 llamafactory-cli version 查看是否安裝成功,顯示如下信息

llamafactory-cli version

在這里插入圖片描述
6、啟動web端進行顯示命令

llamafactory-cli webui

效果如下
在這里插入圖片描述
7、注意事項
(1)、初始環境一定要較為純凈,不然可能會導致庫之間的沖突而安裝失敗
(2)、安裝命令皆可添加鏡像源,防止過程中下載失敗導致一直重新安裝庫

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/diannao/92454.shtml
繁體地址,請注明出處:http://hk.pswp.cn/diannao/92454.shtml
英文地址,請注明出處:http://en.pswp.cn/diannao/92454.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Tomcat與JDK版本對照全解析:避坑指南與生產環境選型最佳實踐

💝💝💝歡迎蒞臨我的博客,很高興能夠在這里和您見面!希望您在這里可以感受到一份輕松愉快的氛圍,不僅可以獲得有趣的內容和知識,也可以暢所欲言、分享您的想法和見解。 持續學習,不斷…

短視頻矩陣的未來前景:機遇無限,挑戰并存

在當今數字化信息飛速傳播的時代,短視頻以其獨特的魅力迅速席卷全球,成為人們獲取信息、娛樂消遣的重要方式之一。短視頻矩陣作為一種高效的內容傳播與運營模式,正逐漸展現出其強大的影響力和潛力。本文將深入探討短視頻矩陣的未來前景&#…

【數據結構】哈希——位圖與布隆過濾器

目錄 位圖: 引入 位圖實現: 位圖的結構 插入數據(標記數據) 刪除數據(重置數據) 查找數據 位圖完整代碼: 位圖的優缺點: 布隆過濾器: 引入 布隆過濾器實現: 布隆過濾器的結構: 插入…

本地運行C++版StableDiffusion!開源應用StableVerce發布

本地運行C版StableDiffusion!開源應用StableVerce發布 StableVerse是一個用C開發的本地運行的圖形工具。適合初學者快速入門;適用于辦公室工作人員的文本和圖像制作的小規模計算能力場景。 開源地址:https://github.com/kelvin-luo/StableVer…

OpenLayers 快速入門(七)矢量數據

看過的知識不等于學會。唯有用心總結、系統記錄,并通過溫故知新反復實踐,才能真正掌握一二 作為一名摸爬滾打三年的前端開發,開源社區給了我飯碗,我也將所學的知識體系回饋給大家,助你少走彎路! OpenLayers…

【PTA數據結構 | C語言版】關于堆的判斷

本專欄持續輸出數據結構題目集,歡迎訂閱。 文章目錄題目代碼題目 將一系列給定數字順序插入一個初始為空的最小堆。隨后判斷一系列相關命題是否為真。命題分下列幾種: x is the root:x是根結點;x and y are siblings&#xff1a…

[CH582M入門第十步]藍牙從機

前言 學習目標: 1、初步了解BLE協議 2、BLE從機代碼解析 3、使用手機藍牙軟件控制CH582M從機LED亮滅一、藍牙介紹 藍牙(Bluetooth)是一種短距離無線通信技術,主要用于設備之間的數據傳輸和通信。它由愛立信(Ericsson)于1994年提出,現由藍牙技術聯盟(Bluetooth SIG)維…

力扣(LeetCode) ——輪轉數組(C語言)

題目:輪轉數組 給定一個整數數組 nums,將數組中的元素向右輪轉 k 個位置,其中 k 是非負數。 示例1: 輸入: nums [1,2,3,4,5,6,7],k 3 輸出: [5,6,7,1,2,3,4] 解釋: 向右輪轉 1 步:…

Rocky9部署Zabbix7(小白的“升級打怪”成長之路)

目錄 一、關閉防火墻和SElinux和配置安裝源 二、zabbxi服務器配置 1、安裝Zabbix server,Web前端,agent ,mysql-server 2、配置mysql數據庫 3、為Zabbix server配置數據庫 4、啟動對應服務 三、登錄zabbix 四、客戶端部署 五、解決中…

python安裝package和pycharm更改環境變量

安裝numpy包 1、找到對應python版本的numpy包的版本 NumPy - News確認適配python版本的numpy,我安裝 的python是3.11所以安裝的numpy是2.2.0 2、修改pip安裝的鏡像源 1、全局修改: pip config set global.index-url https://pypi.tuna.tsinghua.edu.c…

Redis中的setnx命令為什么是原子性的

Redis的SETNX命令是一個原子性操作,這得益于其單線程架構的特性。Redis采用單線程模型,所有命令都在主線程中順序執行,確保每個操作都具有原子性。執行SETNX時,Redis會首先檢查指定key是否存在:若不存在則設置值并返回…

深入解析Hadoop中的EditLog與FsImage持久化設計及Checkpoint機制

HDFS元數據管理概述在HDFS(Hadoop Distributed File System)的架構中,元數據管理是保證系統可靠性和性能的核心環節。NameNode作為HDFS的主節點,負責維護整個文件系統的命名空間和文件到數據塊的映射關系。這些元數據的高效管理直…

MFC類Qt的自動布局框架

由于作者習慣使用Qt,習慣了其框架下的水平和垂直布局。但在使用MFC時,卻發現并沒有十分好用的布局框架,檢索了部分資料,發現要么不提供源碼,要么方案不理想。搜索了很多資料,最終發現一個可用方案&#xff…

認識Transformer架構

一.前言前面我們介紹了RNN相關系列的模型,在當今大模型時代大家認識一下就好了,而本章節我們是要來介紹一下重中之重的Transformer模型,本章節就來介紹一下他的架構,了解Transformer模型的作?以及了解Transformer總體架構圖中各個…

Python學習之存數據

在得到了對應的數據之后可以考慮用文件或者數據庫的方式把內容持久化下來方便之后的分析,此時可以使用pymongo庫,寥寥幾行代碼,數據就已經很好地存儲下來。(此處可參考我們之前發的文章)在 Python 中引入:import pymon…

PointLLM - ECCV 2024 Best Paper Candidate

https://github.com/OpenRobotLab/PointLLM PointLLM: Empowering Large Language Models to Understand Point Clouds 核心問題 對比兩種讓大型語言模型(LLM)“看懂”三維世界的方法 間接方法:通過2D圖像進行猜測。 這是目前比較常見但充…

前端-CSS-day6

目錄 1、相對定位 2、絕對定位 3、絕對定位-居中 4、固定定位 5、堆疊順序 6、CSS精靈-基本使用 7、案例-京東服務 8、字體圖標-體驗 9、使用字體圖標 10、垂直對齊方式 11、過渡 12、透明度 13、光標類型 14、綜合案例-輪播圖 1、相對定位 <!DOCTYPE html>…

在離線 Ubuntu 22.04機器上運行 ddkj_portainer-cn 鏡像 其他相關操作也可以復刻 docker

以下有免費的4090云主機提供ubuntu22.04系統的其他入門實踐操作 地址&#xff1a;星宇科技 | GPU服務器 高性能云主機 云服務器-登錄 相關兌換碼星宇社區---4090算力卡免費體驗、共享開發社區-CSDN博客 兌換碼要是過期了&#xff0c;可以私信我獲取最新兌換碼&#xff01;&a…

數據結構系列之二叉搜索樹

前言 這是我數據結構系列的第一篇&#xff0c;其余C語言模擬的數據結構均會在開學之后跟隨老師上課而更新&#xff08;雖然我已經寫完了&#xff09;&#xff0c;更新這塊主要是因為要由二叉搜索樹講到AVL樹再講到紅黑樹&#xff0c;因為map和set的底層是紅黑樹&#xff0c;就…

系統架構師:軟件工程-思維導圖

軟件工程的定義??軟件工程??是一門系統性、規范化的工程學科&#xff0c;它將工程化的方法、工具和技術應用于軟件的開發、運行與維護全生命周期&#xff0c;旨在解決軟件復雜度帶來的質量、成本和效率問題。其核心目標是通過結構化方法與技術實踐&#xff0c;確保軟件系統…