作為全球IT領域一年一度的行業盛宴,2024紅帽全球峰會于近日盛大召開。生成式AI與大模型是當前IT行業最受關注的熱點話題,而紅帽在生成式AI與大模型領域的最新動作,也理所當然地成為了本屆峰會觀眾目光聚集的焦點。
作為世界領先的開源解決方案供應商,紅帽在峰會上宣布推出紅帽企業Linux AI(RHEL AI)。該基礎模型平臺整合了IBM研究院的開源授權Granite大型語言模型(LLM)系列、基于大規模對話機器人對齊(LAB)方法的InstructLab模型對齊工具,以及通過InstructLab項目實施的社區驅動模型開發方法,可以讓用戶更加便捷地開發、測試和部署生成式AI模型,并已集成到紅帽的混合機器學習運營平臺OpenShift AI中。
在紅帽企業傳播高級總監Allison Showalter主持的紅帽全球峰會亞太媒體溝通會上,紅帽總裁兼CEO Matt Hicks還向與會媒體分享了紅帽對于生成式AI和大模型領域的深刻洞察,以及紅帽深耕AI行業多年積累的心得體會。相信關注IT行業最新動向的讀者朋友們,都能從這次訪談中獲益匪淺。
靈活支持小型開源模型
Matt Hicks表示,訓練和教育模型家族的新技術,為紅帽帶來了巨大的機會。這讓紅帽的客戶能夠開始探索開源的、較小的模型,并允許紅帽加入自己的創意和開源貢獻,來進一步改善這些模型。紅帽的優勢在于對運行位置的核心靈活性,支持小型的開源模型進行混合部署,并支持包括英特爾、英偉達、AMD等所有主要GPU供應商。用戶可以在公有云或數據中心訓練這些模型,并在邊緣進行部署。
開源技術加速企業AI發展
談到Instruct Lab項目的快速發展以及其對企業的價值,Matt Hicks表示Instruct Lab旨在解決企業在微調過程中遇到的數據挑戰,通過合成數據增強技術來實現數據貢獻的小型化,從而方便協作。該項目的快速發展,讓IBM研究所在一個月前決定將其作為峰會重點公告的中心。與此同時,關于混合云和人工智能結合,紅帽認為構建一個堅實的混合云基礎,對企業AI發展來說至關重要,紅帽可以在這方面為企業提供大量幫助。
生成式AI技術的發展趨勢
談到生成式AI技術在不同領域的應用和發展趨勢,Matt Hicks認為目前許多客戶使用的“全知模型”雖然功能強大,但是運行和訓練成本高昂,而且無法適應所有場景。為了充分發揮人工智能的潛力,需要改進小型模型,使其更好地適應實際任務,并能夠在不同的設備上進行訓練。此外隨著ARM芯片和蘋果新芯片等新的硬件選項和技術不斷涌現,生成式AI應用也將不斷拓展升級,這也讓紅帽對AI技術未來一兩年的發展充滿期待。
紅帽在開源社區的努力與成果
最近一段時間,xz工具和庫的安全漏洞問題在業界引發了諸多關注,有人認為這暴露了開源的弱點,而Matt Hicks的觀點剛好相反。Matt Hicks指出,這是一個非常復雜的問題,而且需要長時間的信任建立,才能被攻擊者利用。但是問題被發現后很快就得到了解決,這也體現了開源社區的強大之處。紅帽公司在開源領域做出了很多努力,包括創建檢查、了解代碼質量和克隆自己的副本等措施,都是為了讓開源社區更加健康。雖然我們可能永遠無法完全解決不良行為者插入惡意代碼的問題,但是通過廣泛合作和共同努力,我們仍然可以有效地應對這些挑戰。
AI助力IT團隊更專注核心業務
Matt Hicks指出,AI可以幫助IT團隊更好地理解和維護應用程序,從而將更多的時間和精力用于創造性工作和解決業務挑戰。雖然IT技術支出可能會受到通貨膨脹等因素的影響,但是在整體上仍會保持強勁,特別是在GPU能力等方向上的投資。這些變化旨在減輕工作負擔,提高工作效率和安全性,同時也讓員工更多地專注于業務方面的貢獻。
傳統IT技術與AI的交融與創新
傳統IT技術和AI之間有著怎樣的關系?它們應該如何相互交融和創新?Matt Hicks指出,AI是一種非常重要的工具,RHEL和OpenShift是兩個重要的平臺,可用來運行和管理各種應用程序和服務,RHEL AI和OpenShift AI則提供了針對大語言模型的特殊功能和支持。這些技術的融合與發展,將使得客戶更加容易地在生產環境中運行這些模型,將其應用于商業、醫療保健、科學研究等各個領域,并對其功能和安全性有更大信心。
開源模型的優勢與挑戰
開源模型和專有模型,這兩者的安全風險哪一個更高?Matt Hicks認為,開源模型由于眾多參與者的合作優勢,可以產生更好的結果和更安全的軟件。但是與此同時,開源模型在安全框架上的合作也需要進一步完善。此外開源的優勢在于不受地域或國家的限制,雖然目前亞太地區在模型語言能力方面還存在挑戰,但是開源正在努力增加新的語言,使得AI在英語不普及的地區更加易于接觸,讓用戶也能像以英語為母語的人一樣高效使用AI模型。預計這些進步將在一年之內就能顯現出來。
開源在軟件定義汽車中扮演的角色
當今汽車行業正在經歷從燃油車向電動車的轉變,這需要對車載操作系統進行重新思考設計,特別是在電子系統和控制方面。即使對于傳統的燃油車,設計和駕駛輔助程序也在重新審視。在軟件定義汽車以及與AI的交叉點上,Matt Hicks認為開源技術將在未來的車輛設計和駕駛輔助程序中發揮重要作用。未來的汽車就像是輪子上的小型數據中心,從運行復雜的娛樂系統,到駕駛輔助功能,再到控制汽車所有動態,生成式AI和開源技術將大有可為。
紅帽的獨特優勢以及負責任的AI
Matt Hicks認為,與競爭對手相比,紅帽始終堅持自己在Linux和虛擬化等領域的優勢,并且將這些領域擴展到了容器、鏡像空間、將機器移動到劇場化,現在又擴展到了AI領域。紅帽的自我顛覆能力以及緊跟技術趨勢不斷前進的能力,使得紅帽成為了一個極具價值的合作伙伴。除此以外,紅帽還非常注重保護創作者的權益,遵守開源許可證規定,同時加強安全框架,建立共同平臺應對新的安全威脅,并且能夠通過培育社區參與,顯著提升AI整體安全水平。
AI大模型如何助力企業IT
談到生成式AI與大模型技術的發展對企業IT的影響,Matt Hicks以紅帽發布的Granite代碼模型為例,該模型已經在119種不同的語言上進行了訓練,可以根據用戶的需求進行調整。從筆記本電腦到服務器,都可以運行功能強大的小型開源模型,還可以根據用戶特定的用力進行訓練和優化,從而極大地提升用戶體驗。而在開源數據訓練和許可方面,生態系統的可持續性至關重要。因為如果每個人都在開源數據上進行訓練但是又不遵守許可證,將有可能削弱生態系統的可持續性。不過這個挑戰并非不可克服,通過了解用戶的訓練數據并在推薦中提供透明度,仍然可以保證合規性。紅帽也致力于幫助客戶在處理這些問題時感到更加舒適和安全。
傳統和云原生平臺及AI需求平衡
在傳統和云原生平臺以及AI的需求之間如何保持平衡?紅帽通過優化PyTorch和Python等核心軟件堆棧,使得Linux在支持大語言模型操作方面發揮了重要作用。與此同時,紅帽將AI模型與Linux捆綁在一起,以便更好地滿足傳統平臺和AI應用的硬件需求。盡管使用Linux的方式正在演變,但是毫無疑問Linux未來將繼續扮演關鍵角色,成為AI主導領域的技術基礎設施的重要組成部分。
IBM與紅帽的合作關系
自從IBM收購紅帽以來,IBM與紅帽之間的合作關系,就一直是業界人士津津樂道的話題。Matt Hicks表示,紅帽一直保持著自己的獨立性,而IBM則通過其全球影響力來擴展和增強紅帽的使命。這種關系不僅取得了成功,而且還代表了IBM致力于進入新領域的重大轉變。IBM與紅帽有著相同的使命,并對共同努力為世界帶來的潛力充滿期待。雙方在硬件能力和創新等領域的緊密合作,也在近年來的豐碩成果中得到了充分體現。雙方的這一合作關系,也體現了IBM真正傾向于開源模式,并積極擁抱開源模型和AI貢獻的態度。
??