最近,國內云廠商的大模型掀起一場降價風暴。火山引擎、阿里云、百度云等紛紛宣布降價,部分模型價格降幅據稱高達99%,甚至還有些模型直接免費。
五花八門的降價話術,一眼望去遍地黃金。但事實真的如此嗎?今天我們就撥開迷霧,深挖下大模型降價背后那些事。
1
選大模型
要最強版還是輕量級?
企業選用大模型,首先要明確模型的使用需求:
如果需要語言理解、生成、邏輯等綜合能力強,能解決復雜業務場景問題的大模型,那么必須使用各大頭部廠商的最強模型,包括豆包Pro系列、通義千問Qwen-Max系列和文心ERNIE 4.0。這些模型均已超越GPT3.5,但距離GPT-4略有差距。
如果對模型能力要求不高,比如簡單的對話問答,但是需要響應速度快、便宜的大模型,那么可以使用各家大模型的輕量化版本。包括豆包Lite系列、通義千問Qwen-Long/Plus/Turbo系列、文心ERNIE-3.5/Speed/Lite系列。
選模型就像選車一樣,高端商務和家用買菜,肯定不是一個價。入門級的車就算給你倒貼錢,你敢開去跑極限越野嗎?所以還是要關注模型能力,不能光看最低價。
2
比價格,還要比并發
選好適配業務的模型之后,就要算算使用成本了。
各家大模型公布的x元/千tokens,都是指“后付費”的刊例價。也就是按照實際使用的tokens算賬。
乍看很簡單——誰的單價低,誰就更便宜唄。但真要用起來,這里面門道就多了。
和“后付費”價格綁定在一起的,有兩個關鍵指標,一個叫TPM(每分鐘token數),一個叫RPM(每分鐘請求數)。
TPM,代表著一家企業客戶在單位時間內能夠使用的token限額;RPM,代表著一家企業客戶在單位時間內最多能用多少次大模型。兩個指標中有一個達到限額,模型就拒絕提供服務了。
打個比方:大模型API調用就像一個大水池,TPM是限定了每分鐘可以打一杯水還是一桶水,RPM是限定了同時可以來10個人還是來100個人打水。無論水價多便宜,哪怕是免費的,如果一分鐘只能接一杯水,那也沒太大用處。
3
大模型降價“御三家”最詳細對比
搞清楚大模型價格那些事兒,接下來看看這波降價潮里最風口浪尖的三家云廠商:首先掀桌的火山引擎和豆包大模型,火上澆油的阿里云和通義千問大模型,摔杯免費的百度智能云和文心大模型。
以上數據均來自于各廠商官網及產品控制臺,數據采集時間為5月22日。如有變動,以廠商最新公告為準。
為了更直觀地表現以上大模型的綜合性價比,我們按照模型能力分級,計算一元錢能購買的tokens數量,以及不同模型支持的并發能力,分別做成圖表。
備注:在典型流量場景中,推理輸入遠大于推理輸出,一般為5比1到10比1之間。在長文本對話的PDF總結摘要等場景,輸出相比輸入更是可以忽略。因此本文以推理輸入價格為準,計算一元錢能買到的tokens數量。
4
簡單總結
百度最強模型的價格不變,但輕量模型把“厘時代”直接打到免費。不過需要注意的是,根據文心一言官網介紹,ERNIE Speed模型適用于精調,而精調還是要收費的。
阿里云的模型全線降價,最強模型降幅低,輕量模型降幅高。所有價格應該都是經過了精密的測算,不會是隨意拍的數。從價格來看還是頗有誠意,但初始支持的TPM/RPM稍顯不足,企業在實際使用中需要對相關權益做好溝通。
字節,火山引擎。當我們說起價格那些事兒,不由想起《明朝那些事兒》的經典臺詞:要么不做,要么做絕。豆包大模型悶聲發育一年,無論是最強模型還是輕量模型,TPM還是RPM,用九個字可以形容:不留空檔,競爭力拉滿。
?
如何學習AI大模型?
現在社會上大模型越來越普及了,已經有很多人都想往這里面扎,但是卻找不到適合的方法去學習。
作為一名資深碼農,初入大模型時也吃了很多虧,踩了無數坑。現在我想把我的經驗和知識分享給你們,幫助你們學習AI大模型,能夠解決你們學習中的困難。
我已將重要的AI大模型資料包括市面上AI大模型各大白皮書、AGI大模型系統學習路線、AI大模型視頻教程、實戰學習,等錄播視頻免費分享出來,需要的小伙伴可以掃取。
一、AGI大模型系統學習路線
很多人學習大模型的時候沒有方向,東學一點西學一點,像只無頭蒼蠅亂撞,我下面分享的這個學習路線希望能夠幫助到你們學習AI大模型。
二、AI大模型視頻教程
三、AI大模型各大學習書籍
四、AI大模型各大場景實戰案例
五、結束語
學習AI大模型是當前科技發展的趨勢,它不僅能夠為我們提供更多的機會和挑戰,還能夠讓我們更好地理解和應用人工智能技術。通過學習AI大模型,我們可以深入了解深度學習、神經網絡等核心概念,并將其應用于自然語言處理、計算機視覺、語音識別等領域。同時,掌握AI大模型還能夠為我們的職業發展增添競爭力,成為未來技術領域的領導者。
再者,學習AI大模型也能為我們自己創造更多的價值,提供更多的崗位以及副業創收,讓自己的生活更上一層樓。
因此,學習AI大模型是一項有前景且值得投入的時間和精力的重要選擇。