5月15日,2024 春季火山引擎 FORCE 原動力大會在北京正式舉辦。大會聚焦 AI 主題,以大模型應用為核心、以 AI 落地為導向,展示了火山引擎在大模型、云計算領域的實踐應用,攜手汽車、手機終端、金融、消費、互聯網等領域的專家和企業技術帶頭人,共同探討 AI 時代的轉型機遇。
火山引擎邊緣云以“連接與計算無處不在,讓AI觸手可及”主題在大會展區亮相。邊緣智能 AIoT 多模態推理解決方案、協同扣子連接物理世界等內容吸引了參會嘉賓駐足參觀、討論。
01? 邊緣智能 AIoT,拓展大模型場景邊界
大會展區,火山引擎邊緣云展示了邊緣智能 AIoT,拓展大模型場景邊界。在基礎設施上,火山引擎邊緣云實現就近接入、查詢加速、自動重試、故障遷移等能力;在解決方案上,火山引擎邊緣云支持靈活定制、模型加密、分發加速、低代碼編排;在應用開發上,火山引擎邊緣云協同扣子連接物理世界,支持設備建模、設備理解、智能交互。
-
提升開發效率:結合多模態大模型高效開發場景化應用,支持低代碼可視化操作,提升開發效率
-
協同扣子連接物理世界:邊緣智能將物聯設備抽象并封裝成插件,結合工作流將扣子智能體拓展到物理世界
更引人注意的是邊緣智能協同扣子平臺的互動展示,在這里,扣子平臺通過 API ,調用火山引擎 AIoT 解決方案,將虛擬 bot 拓展至現實物理場景。
在大會現場,觀展嘉賓可以向部署在邊緣智能設備上的 bot 進行提問,bot 通過扣子平臺搭建,擁有讀取設備數據、操作控制等能力,為嘉賓提供實時解答。比如觀展嘉賓可以問 bot 展區展位分布情況、目前的人流量等等,快速獲取大會的最新進展。
這就是邊緣智能攜手扣子平臺打造的解決方案。在過去的實踐中,當通過扣子平臺創建的 bot 無法有效感知或操作物理世界實體時,大模型在物聯網方面似乎無法做到真正落地,而邊緣智能針對這一場景提出解決方案。
-
抽象實體:邊緣智能通過“物模型”完成對物理世界實體的抽象
-
定制插件:對火山引擎邊緣智能 openAPI 進行插件化封裝,讓用戶實現 bot 與物理世界的聯動
該解決方案具備豐富的應用場景:
1)食堂排隊場景
-
場景:用戶可以通過扣子平臺完成語義交互,比如問:現在食堂哪個檔口排隊較少?
-
解決方案:扣子通過調用邊緣智能接口,獲取物理世界攝像機抓拍的視頻、圖片,統計分析食堂檔口人數,進而給用戶反饋出真實的檔口排隊情況。
2)智慧廁所場景
-
場景:在景區或城市人流量大的公共區域,人們希望能快速找到最近的廁所并減少排隊。基于扣子和邊緣智能方案,用戶可以在扣子上詢問:請查找附近空閑廁所位。
-
解決方案:扣子通過調用邊緣智能接口,基于邊緣智能及廁所位感知設備的采集數據,可幫助用戶查詢到最近的廁所位置及廁所位空閑情況。
隨著具身智能的來臨,大模型將更多的與物理世界實體產生聯動。邊緣智能 AIoT + 扣子 聯合解決方案也將有更多落地場景,切實提升人們生活質量。
02? 連接與計算無處不在,讓 AI 觸手可及
當前,人工智能技術和產業持續保持高速發展的態勢。Precedence Research 預測,到 2030 年,全球人工智能市場規模將達到驚人的 114554 億元,2023年-2030年間保持復合增長率 35% 以上。產業高速發展必然會對資源提出更高要求,網絡也需要在帶寬、并發、延時、穩定性、彈性、海量終端靈活接入、跨境加速等方面達到更高水準。
火山引擎邊緣云原生操作系統納管邊緣異構算力資源,兼具小型化、輕量化、集成化,為 AI 場景提供低延時、廣覆蓋的 Serverless 異構算力,作為統一底座支撐著 AI 應用向云邊端結合的混合架構方向演進。
火山引擎邊緣云依托全球分布式云網基礎設施,支持智能應用就近上云,讓用戶更便捷地享用 AI 服務。
-
超大規模:全球 2500+ 節點, 150Tbps 帶寬,20 億+終端
-
超低時延:1-40ms 廣域網絡接入,支持網絡傳輸優化及智能路徑擇優
-
萬物互聯:支持億級并發,海量、多形態智能終端的就近接入
-
云邊端一體:資源全局調度,為用戶提供無限彈性能力
-
安全加速:基于成本、質量的智能全局加速,支持分布式安全防護能力
火山引擎邊緣云打造分布式邊緣云異構算力解決方案,為用戶就近提供多形態異構算力,支撐AI應用邁向云邊端結合新架構。
-
異構硬件納管:支持邊緣AI一體機、邊緣服務器等多種物理硬件,提供裸金屬/虛機/容器等多樣化算力服務
-
低時延算力:覆蓋現場邊緣、近場邊緣、云邊緣基礎設施,為AI業務就近提供算力接入
-
小型化與輕量化:支持算力、服務混合部署,集群功能按需調配,最大化利用可用資源
-
全局資源調度:打破局部資源限制,統一調度全局資源,支持跨區域彈性調度和跨節點容災遷移
-
云邊端協同:通過云邊、邊邊數據通道和網絡基礎設施,為業務提供云、邊、端高效連接和數據交換
END
面向未來,火山引擎邊緣云將緊緊跟隨科技發展方向,在夯實技術底座的同時,不斷探索邊緣智能與 AI 的結合,希望能與更多行業伙伴達成合作,探索更豐富的、面向多行業的創新應用場景,助力產業蓬勃發展。