與阿里云一起
輕松實現數智化
讓算力成為公共服務:用大規模的通用計算,幫助客戶做從前不能做的事情,做從前做不到的規模。讓數據成為生產資料:用數據的實時在線,幫助客戶以數據為中心改變生產生活方式創造新的價值。
模型部署
登錄阿里云,訪問阿里云人工智能業務平臺PAI的控制臺,選擇模型廠商對應規格的模型,選擇模型的部署方式,填寫模型的基本屬性,設置部署模型的資源類型,點擊部署按鈕,即可實現一鍵部署:
在線調試
部署大模型完成,查看模型在線服務(EAS)的管理頁面,使用在線調試的功能,輸入調用API接口的請求參數,向大模型服務發送請求信息,接收到大模型服務的響應信息,即可實現模型的測試:
API調用
大模型部署完成,人工智能業務平臺PAI提供開放API接口的調用服務,在服務詳情中可以查看外網的訪問鏈接地址、安全訪問的授權Token,提供給遠程客戶端或者智能體應用調用:
模型微調
微調是優化策略的訓練任務,在人工智能業務平臺PAI的控制臺中,指定對應規格的大模型,點擊訓練按鈕,創建微調訓練任務:
在大模型訓練頁面中,指定訓練方式,設置訓練的屬性,點擊訓練按鈕,提交訓練任務,提交訓練的數據,即可實現一鍵訓練:
模型評測
人工智能業務平臺PAI支持使用公開數據集或者自定義數據集,對大模型執行評測,公開數據集由人工智能業務平臺PAI維護,自定義數據集由開發者按照指定的數據格式,將數據上傳到人工智能業務平臺PAI:
在人工智能業務平臺PAI的控制臺中,指定對應規格的大模型,點擊評測按鈕,創建大模型評測任務:
在人工智能業務平臺PAI的控制臺中,查看任務管理頁面,對訓練完成的任務執行評測:
模型評測極簡模式
模型評測模式包括極簡模式以及專家模式,其中,極簡模式的業務流程:
創建大模型評測任務,輸入評測任務的屬性,設置評測任務的輸出路徑,指定評測任務的數據集,數據集可以使用公開數據集或者自定義數據集:
設置評測任務使用公開數據集:
設置評測任務使用自定義數據集:
設置運行評測任務的GPU類型的計算資源:
模型評測專家模式
模型評測模式包括極簡模式以及專家模式,其中,專家模式的業務流程:
創建大模型評測任務,輸入評測任務的屬性,設置評測任務的輸出路徑,指定評測任務的數據集,數據集可以使用公開數據集或者自定義數據集:
設置評測任務使用自定義數據集,專家模式支持同時使用公開數據集以及自定義數據集,公開數據集支持同時使用多個數據集:
從阿里云存儲中使用已有的自定義數據集:
從本地上傳自定義數據集到阿里云存儲中:
設置運行評測數據集的算法參數:
設置運行評測任務的GPU類型的計算資源:
評測報告
在人工智能業務平臺PAI的任務管理頁面中,查看評測報告:
在任務管理頁面中,點擊查看報告,即可查看對應模型的評測報告:
在評測報告的頁面中,包括自定義數據集的評測報告以及公開數據集的評測報告,評測報告中包括評測項的評分以及評測分析,自定義數據集的評測報告:
在評測報告的頁面中,包括自定義數據集的評測報告以及公開數據集的評測報告,評測報告中包括評測項的評分以及評測分析,公開數據集的評測報告:
模型評測報告支持不同數據集的對比分析,自定義數據集的評測報告的對比分析:
模型評測報告支持不同數據集的對比分析,公開數據集的評測報告的對比分析: