康謀分享 | 3DGS:革新自動駕駛仿真場景重建的關鍵技術

隨著自動駕駛技術的迅猛發展,構建高保真、動態的仿真場景成為了行業的迫切需求。傳統的三維重建方法在處理復雜場景時常常面臨效率和精度的挑戰。在此背景下,3D高斯點陣渲染(3DGS)技術應運而生,成為自動駕駛仿真場景重建的關鍵突破。

一、3DGS技術概述與原理

1、3DGS的技術概述

3DGS是一種基于3D高斯分布的三維場景表示方法。通過將場景中的對象轉化為多個3D高斯點,每個點包含位置、協方差矩陣和不透明度等信息,3DGS能夠精確地表達復雜場景的幾何形狀光照特性

傳統的神經輻射場(NeRF)方法相比,3DGS在渲染速度和圖像質量方面表現出色,彌補了NeRF在動態場景處理和細節保留上的不足。

圖1:3DGS重建流程

2、3DGS的技術原理

在3DGS中,首先通過SfM(Structure from Motion)技術進行數據預處理,校準相機位置并恢復其內部和外部參數,生成稀疏點云。然后,基于這些點云初始化一組3D高斯點,每個高斯點的初始位置、協方差矩陣和不透明度都會進行設置。

訓練過程中,3DGS通過反向傳播不斷優化這些高斯點的位置、形狀和不透明度。值得注意的是,3DGS采用了自適應密度控制,能夠在每次反向傳播后去除那些不重要的高斯點,并根據需要對高斯點進行分裂或克隆,以保證場景重建的精度和細節。

圖2:訓練過程中高斯點的優化

二、3DGS在自動駕駛仿真中的應用

在自動駕駛領域,3DGS技術被廣泛應用于高保真仿真場景的重建。通過將多視角圖像轉化為3D高斯點云,3DGS能夠快速、精確地重建復雜的街道場景,為自動駕駛系統的訓練和驗證提供真實的虛擬環境。例如,Huang等人提出的S3Gaussian方法,通過自監督學習,從4D一致性中分解動態和靜態元素,實現了高質量的街道場景重建。

此外,Zhou等人提出的DrivingGaussian方法,針對環視動態自動駕駛場景,發展了基于3D高斯的重建仿真技術。該方法能夠有效建模復雜的多尺度背景和前景,提升了自動駕駛系統在復雜環境下的感知能力。

圖3:S3Gaussian方法

圖4:DrivingGaussian方法

1、3DGS的優勢與挑戰

(1)優勢

高效性:通過顯式建模方法,3DGS避免了傳統神經網絡訓練中的計算開銷,訓練速度更快,渲染效率更高。

精度:3D高斯點可以細致地捕捉場景中的每個細節,從而實現高精度的三維重建。

實時性:3DGS支持實時渲染,適合需要快速響應的應用場景,如自動駕駛仿真。

(2)挑戰

場景復雜度:對于極為復雜的三維場景,3DGS可能需要大量的高斯點,這會增加計算負擔和內存消耗。

動態場景的支持:目前,3DGS主要集中在靜態場景的重建,如何高效地處理動態場景中的物體變化,仍然是一個技術挑戰。

三、aiSim的3DGS重建功能

aiSim仿真平臺結合3DGS技術,可以提供強大的三維重建功能,極大地提升了自動駕駛仿真測試的效率和精度。

在aiSim中,3DGS被用于從多視角圖像中重建復雜的三維場景。aiSim能夠精確地捕捉環境的幾何形狀光照特性,為自動駕駛系統提供高保真的虛擬環境。這種高精度的三維重建使得自動駕駛算法能夠在仿真中進行更為真實的測試,減少了對實際道路測試的依賴。

圖5:大FoV相機渲染出現非一致性(左)重建3DGS渲染方案后(右)

aiSim新構建的GGSR通用高斯潑濺渲染器優化了重建場景下光線追蹤傳感器的渲染效果,增強了廣角鏡頭渲染下的一致性,并能減少偽影的產生,實現高保真度的3DGS重建場景兼容。

在重建的靜態場景之上,aiSim支持自定義動態的場景交通流。通過添加動態實體,aiSim可以模擬交通流、行人行為等動態元素,為自動駕駛系統提供更為全面的測試場景。這種動態重建能力使得aiSim在驗證自動駕駛系統的泛化能力和應對復雜場景的能力方面,展現出了巨大的優勢。

圖6:十字路口車輛起步場景

四、結語

3DGS作為一種新興的三維場景重建技術,憑借其高效、精確和實時的特點,在自動駕駛仿真領域展現出了巨大的潛力。我們有理由相信,未來3DGS將為更多行業帶來創新性的解決方案。

▍參考文獻

1.?3D Gaussian Splatting for Real-Time Radiance Field Rendering

2. S3Gaussian: Self-Supervised Street Gaussians for Autonomous Driving?

3.?DrivingGaussian: Composite Gaussian Splatting for Surrounding Dynamic Autonomous Driving Scenes?


我是分享自動駕駛技術的康謀

歡迎關注互動

期待與您的進一步交流

aiSim自動駕駛仿真平臺 - 端到端智駕仿真工具 | 高保真環境模擬和場景重建 | 軟件在環測試 | 康謀科技https://keymotek.com/adas-simulator-aisim/

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/71476.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/71476.shtml
英文地址,請注明出處:http://en.pswp.cn/web/71476.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

大模型架構記錄2

一 應用場景 1.1 prompt 示例 1.2 自己搭建一個UI界面,調用接口 可以選用不同的模型,需要對應的API KEY 二 Agent 使用 2.1 構建GPT

【C++】二叉樹相關算法題

一、根據二叉樹創建字符串 題目描述: 給你二叉樹的根節點 root ,請你采用前序遍歷的方式,將二叉樹轉化為一個由括號和整數組成的字符串,返回構造出的字符串。 空節點使用一對空括號對 “()” 表示,轉化后需要省略所有…

【機械視覺】C#+visionPro聯合編程———【一、C# + VisionPro 聯合編程詳解以及如何將visionPro工具加載到winform】

機械視覺與 C# VisionPro 聯合編程詳解 目錄 機械視覺與 C# VisionPro 聯合編程詳解 概念 應用場景 1. 工業檢測與質量控制缺陷檢測 2. 定位與機器人引導 3. 識別與分類 4. 復雜流程控制 將visionPro工具加載到winform 環境準備 一、創建winform項目 二、打開窗體…

修改hosts文件,修改安全屬性,建立自己的DNS

初級代碼游戲的專欄介紹與文章目錄-CSDN博客 我的github:codetoys,所有代碼都將會位于ctfc庫中。已經放入庫中我會指出在庫中的位置。 這些代碼大部分以Linux為目標但部分代碼是純C的,可以在任何平臺上使用。 源碼指引:github源…

對NXP提供的BSP里邊所使用的u-boot的環境變量`bootcmd`的解析

為什么我們要解析環境變量bootcmd? 承接博文 https://blog.csdn.net/wenhao_ir/article/details/145902134 繼續解析u-boot的環境變量bootcmd。 為什么要解析u-boot的這個環境變量bootcmd?因為如果u-boot在倒計時完后,首先執行的是就是下面這條命令&am…

NSSCTF [SWPUCTF 2024 秋季新生賽]金絲雀

5948.[SWPUCTF 2024 秋季新生賽]金絲雀 canary繞過和64位的ret2libc(格式化字符串泄露) (1) motalymotaly-VMware-Virtual-Platform:~/桌面$ file xn xn: ELF 64-bit LSB executable, x86-64, version 1 (SYSV), dynamically linked, interpreter /lib64/ld-linux-x86-64.so.…

神經網絡中梯度計算求和公式求導問題

以下是公式一推導出公式二的過程。 表達式一 ? E ? w j k ? 2 ( t k ? o k ) ? sigmoid ( ∑ j w j k ? o j ) ? ( 1 ? sigmoid ( ∑ j w j k ? o j ) ) ? ? ? w j k ( ∑ j w j k ? o j ) \frac{\partial E}{\partial w_{jk}} -2(t_k - o_k) \cdot \text{sigm…

koa-session設置Cookie后獲取不到

在谷歌瀏覽器中請求獲取不到cookie問題之一(谷歌安全策略) 場景 前端使用 axios 請求,項目地址:http://192.168.8.1:5173 import axios from axiosconst request axios.create({baseURL: http://127.0.0.1:3001/,timeout: 60000,…

單元測試與仿真程序之間的選擇

為什么寫這篇文章 現在的工作需求,讓我有必要總結和整理一下。 凡事都有適用的場景。首先這里我需要提示一下,這里的信息,可能并不普適。 但是可以肯定一點的是,有些人,不論做事還是寫書,上下文還沒有交待…

如何在Android中實現圖片加載和緩存

在Android中實現圖片加載和緩存是提升應用性能和用戶體驗的關鍵環節。高效的圖片加載和緩存策略能夠減少內存占用、避免應用卡頓,并快速響應用戶的圖片查看需求。以下是在Android中實現圖片加載和緩存的幾種常見方法: 一、使用第三方圖片加載庫 1. Gli…

FusionInsight MRS云原生數據湖

FusionInsight MRS云原生數據湖 1、FusionInsight MRS概述2、FusionInsight MRS解決方案3、FusionInsight MRS優勢4、FusionInsight MRS功能 1、FusionInsight MRS概述 1.1、數據湖概述 數據湖是一個集中式存儲庫,允許以任意規模存儲所有結構化和非結構化數據。可以…

推薦幾款優秀的PDF轉電子畫冊的軟件

當然可以!以下是幾款優秀的PDF轉電子畫冊的軟件推薦,內容簡潔易懂,這些軟件都具有易用性和互動性,適合不同需求的用戶使用。? ? FLBOOK|在線創作平臺 支持PDF直接導入生成仿真翻頁電子書。提供15主題模板與字體庫&a…

【GoTeams】-2:項目基礎搭建(下)

本文目錄 1. 回顧2. Zap日志3. 配置4. 引入gprc梳理gRPC思路優雅關閉gRPC 1. 回顧 上篇文章我們進行了路由搭建,引入了redis,現在來看看對應的效果。 首先先把前端跑起來,然后點擊注冊獲取驗證碼。 再看看控制臺輸出和redis是否已經有記錄&…

深度學習反向傳播

一、白話解釋 梯度其實就是導數,除了用符號求導也可以用近似求導: 然后更新ww-學習率*導數 反向傳播就是鏈式求導 向前計算:對每個節點求偏導 在前向傳播的時候,進行一次前向計算的時候就可以把每一條線的偏導數都知道 前向傳…

JavaWeb-HttpServletRequest請求域接口

文章目錄 HttpServletRequest請求域接口HttpServletRequest請求域接口簡介關于請求域和應用域的區別 請求域接口中的相關方法獲取前端請求參數(getParameter系列方法)存儲請求域名參數(Attribute系列方法)獲取客戶端的相關地址信息獲取項目的根路徑 關于轉發和重定向的細致剖析…

deepseek在pycharm 中的配置和簡單應用

對于最常用的調試python腳本開發環境pycharm,如何接入deepseek是我們窺探ai代碼編寫的第一步,熟悉起來總沒壞處。 1、官網安裝pycharm社區版(免費),如果需要安裝專業版,需要另外找破解碼。 2、安裝Ollama…

AAA協議:從零認識網絡的“身份管家”

AAA(Authentication, Authorization, Accounting,認證、授權和計費)是網絡世界的“身份管理員”,負責確認“你是誰”、決定“你能干啥”、記錄“你干了啥”。如果你用過華三的交換機或路由器,可能在配置用戶管理時見過…

動態規劃01背包問題系列一>最后一塊石頭的重量II

這里寫目錄標題 題目分析:狀態表示:狀態轉移方程:初始化:填表順序:返回值:代碼呈現:優化版本:代碼呈現: 題目分析: 狀態表示: 狀態轉移方程&#…

逐行拆解 C 語言:數據類型、變量

今日,我們即將踏上一段充滿趣味與挑戰的學習之旅,深度鉆研數據類型的多樣奧秘,解鎖變量創建的實用技巧。不僅如此,還會邂逅兩個實用的基礎庫函數,探索它們在程序中穿針引線的奇妙作用。同時,幾個簡潔卻強大…

【音視頻】ffplay簡單過濾器

一、ffplay簡單過濾器 視頻旋轉:借助transpose濾鏡 ffplay -i 1.mp4 -vf transpose1這里選擇不同的數字是不同的方向: 視頻翻轉:借助hflip/vflip實現水平和垂直翻轉: 水平翻轉 ffplay 1.mp4 -vf hflip垂直翻轉 ffplay 1.mp4 …