?
1 NetCDF氣象文件自動發布案例
GeoServer是一個地理服務器,提供了管理頁面進行服務發布,樣式,切片,圖層預覽等一系列操作,但是手動進行頁面配置有時并不滿足業務需求,所以GeoServer同時提供了豐富的rest接口可供用戶自己組織業務邏輯進行自動化管理。
本文以氣象文件的NetCDF自動化發布的需求,闡述如何以rest接口實現用戶多樣性需求。氣象文件特殊性在于幾乎每隔一段時間就會更新,甚至逐小時或半小時的更新頻率,用戶如果手動發布了氣象文件的若干圖層作為專題服務,一旦獲取到最新的氣象文件,用戶希望立馬可以看到新的數據源上的專題圖,而人工即時更新現有的圖層服務幾乎是不現實的,類似這種定時或者即時響應的需求應該交由自動化完成,本文實現NetCDF氣象文件自動發布便是為了解決此類需求。
?
1.1 NetCDF插件安裝
選擇對應版本的下載地址:http://geoserver.org/release/2.11.0/
下載插件,解壓,將jar文件全部復制到geoserver中的webapps\geoserver\WEB-INF\lib目錄中,重啟geoserver即可。
1.2 rest示例
發布nc文件數據存儲
將E:\xxx.nc該文件發布成柵格數據存儲,發布到cite工作區,數據存儲名稱為netcdfstore。
curl -v -u admin:geoserver -XPOST -H "Content-type: text/xml" -d
"<coverageStore><name>netcdfstore</name><type>NetCDF</type><enabled>true</enabled>
<workspace><name>cite</name></workspace><__default>false</__default>
<url>file://E://xxx.nc</url></coverageStore>"
http://localhost:8090/geoserver/rest/workspaces/cite/coveragestores/netcdfstore
?注意路徑格式是:file://E://xxx.nc,而不是file://E:\xxx.nc或file://E:\\xxx.nc,這應該是該插件的一個bug
修改nc文件數據存儲
將netcdfstore的數據存儲位置由E:\xxx.nc指向D:\xxv.nc。
curl -v -u admin:geoserver -XPUT -H "Content-type: text/xml" -d
"<coverageStore><name>netcdfstore</name><type>NetCDF</type><enabled>true</enabled>
<workspace><name>cite</name></workspace><__default>false</__default>
<url>file://D://xxc.nc</url></coverageStore>"
http://localhost:8090/geoserver/rest/workspaces/cite/coveragestores/netcdfstore
發布柵格圖層
將netcdfstore數據存儲中的RH2圖層發布
curl -v -u admin:geoserver -XPOST -H "Content-type: text/xml" -d
"<coverage><nativeCoverageName>RH2</nativeCoverageName><name>RH2</name></coverage>"
http://localhost:8090/geoserver/rest/workspaces/cite/coveragestores/netcdfstore/coverages
?綁定圖層樣式
將發布的RH2樣式綁定已經發布的一個名稱叫RH2Style的樣式。
curl -v -u admin:geoserver -XPUT -H "Content-type: text/xml" -d "<layer>
<defaultStyle><name>RH2Style</name></defaultStyle></layer>"
http://localhost:8090/geoserver/rest/layers/RH2
1.3
自動化發布
Node.js
var child_process = require('child_process'); var async = require('async'); //構造一個netcdf管理類 function NetCDFManager(options){this.ip=options.ip;this.port=options.port;this._geoserverurl=`http://${this.ip}:${this.port}/geoserver/rest`;this.user=options.user;//geoserver的用戶名密碼this.password=options.password;this.layerlist=options.layerlist;this.ws=(options.ws!==undefined)?options.ws:'netcdf';//工作區間,默認是netcdf工作區間this.storename=(options.storename!==undefined)?options.storename:'netcdfstore';//netcdf數據存儲名稱,默認是netcdfstore } //根據名稱獲取柵格數據存儲 NetCDFManager.prototype.getCoverageStorebyName=function(cb){let storename=this.storename;let url=this._geoserverurl+`/workspaces/${this.ws}/coveragestores/${storename}.json`;var cmd=`curl -v -u ${this.user}:${this.password} -XGET ${url}`;child_process.exec(cmd, function(err,stdout,stderr) {if(stdout.indexOf('No such')>-1){cb(false);return;}if(JSON.parse(stdout).coverageStore.name===storename)cb(true);elsecb(false);}); } //發布一個柵格數據存儲 NetCDFManager.prototype.publishCoverageStore = function(netcdffile,cb){netcdffile=netcdffile.replace(/\\/g,'//');var xml=`<coverageStore><name>${this.storename}</name><type>NetCDF</type><enabled>true</enabled><workspace><name>${this.ws}</name></workspace><__default>false</__default><url>file://${netcdffile}</url></coverageStore>`;var cmd=`curl -v -u ${this.user}:${this.password} -XPOST -H "Content-type: text/xml" -d "${xml}" ${this._geoserverurl}/workspaces/${this.ws}/coveragestores`;child_process.exec(cmd, function(err,stdout,stderr) {if(stdout=='')cb(true);elsecb(false);}); } //修改已發布的數據存儲 NetCDFManager.prototype.updateCoverageStore = function(netcdffile,cb){netcdffile=netcdffile.replace(/\\/g,'//');var xml=`<coverageStore><name>${this.storename}</name><type>NetCDF</type><enabled>true</enabled><workspace><name>${this.ws}</name></workspace><__default>false</__default><url>file://${netcdffile}</url></coverageStore>`;var cmd=`curl -v -u ${this.user}:${this.password} -XPUT -H "Content-type: text/xml" -d "${xml}" ${this._geoserverurl}/workspaces/${this.ws}/coveragestores/${this.storename}`;child_process.exec(cmd, function(err,stdout,stderr) {if(stdout=='')cb(true);elsecb(false);});} //發布一個圖層 NetCDFManager.prototype.publishCoverage = function(coverage_name,cb){let xml=`<coverage><nativeCoverageName>${coverage_name}</nativeCoverageName><name>${coverage_name}</name></coverage>`;let url=`${this._geoserverurl}/workspaces/${this.ws}/coveragestores/${this.storename}/coverages`;var cmd=`curl -v -u ${this.user}:${this.password} -XPOST -H "Content-type: text/xml" -d "${xml}" ${url}`;child_process.exec(cmd, function(err,stdout, stderr) {if(stdout=='')cb(true);elsecb(false);}); } //給發布的圖層賦予樣式 NetCDFManager.prototype.setLayerStyle = function(layername,stylename,cb){let xml=`<layer><defaultStyle><name>${stylename}</name></defaultStyle></layer>`;let url=`${this._geoserverurl}/layers/${layername}`;var cmd=`curl -v -u ${this.user}:${this.password} -XPUT -H "Content-type: text/xml" -d "${xml}" ${url}`;child_process.exec(cmd, function(err,stdout, stderr) {if(stdout=='')cb(true);elsecb(false);}); }/* 偽邏輯代碼1 根據數據存儲名稱,判定是否有該數據存儲。沒有,publishCoverageStore一個,接步驟2.有,updateCoverageStore即可,end! 2 publishCoverageStore發布數據存儲后,將規定要發布的圖層逐一發布publishCoverage,逐一賦予樣式setLayerStyle 注意都是異步的,需要后臺代碼轉同步,js中的async庫負責處理異步陷阱,其他語言自行百度。*/var netCDFManager=new NetCDFManager({ip:'localhost',port:'8090',user:'admin',password:'geoserver',ws:'netcdf',storename:'netcdfstore',layerlist:['RH2','SKT','TP','V10','VIS'] }); function publish(ncfile) {async.waterfall([//查詢是否已經存在命名為netcdfstore的數據存儲function (done) {netCDFManager.getCoverageStorebyName(function (info) {done(null, info);});},function (info, done) {//已存在數據存儲,直接替換其數據源為新的nc文件if (info) {console.log('指定的數據存儲已存在,直接進行更新操作');netCDFManager.updateCoverageStore(ncfile, function (info) {if (info) {console.log('數據存儲已經更新成功!');done(null, info);} else {console.log('數據存儲已經更新失敗!');done(info, null);}});}//不存在數據存儲,新發布else {console.log('指定的數據存儲不存在,發布數據存儲');publishNC(ncfile, done);}}], function (error, result) {if (error)console.log('自動發布存在錯誤!');elseconsole.log('自動發布完成!');}) }function publishNC(ncfile,cb){async.waterfall([function (done) {netCDFManager.publishCoverageStore(ncfile,function(info){if(info){console.log('數據存儲已經發布成功!');done(null, info);}else{console.log('數據存儲已經發布失敗!');done(info, null);}});}, function (resule,done) {//發布圖層 publishLayers(netCDFManager.layerlist,done);},function (result,done) {//發布樣式 publishStyles(netCDFManager.layerlist,done);}],function (error, result) {if(error){console.log('自動發布存在錯誤!');cb(error,null);}else{console.log('自動發布完成!');cb(null,result);}}) } //自動發布一些列圖層 function publishLayers(layerlist,cb){let asyncs={};for(let i=0;i<layerlist.length;i++){asyncs[i]=function(done){let layername=layerlist[i];netCDFManager.publishCoverage(layername,function(info){if(info){console.log(`${layername}發布成功!`);done(null, info);}else{console.log(`${layername}發布失敗!`);done(info, null);}});}}async.parallel(asyncs, function (error, result) {if(error)cb(error,null);elsecb(null,result);}) }//修改指定圖層為指定樣式 function publishStyles(stylelist,cb){let asyncs={};for(let i=0;i<stylelist.length;i++){asyncs[i]=function(done){let layername=stylelist[i];netCDFManager.setLayerStyle(layername,layername,function(info){if(info){console.log(`${layername}樣式發布成功!`);done(null, info);}else{console.log(`${layername}樣式發布失敗!`);done(info, null);}});}}async.parallel(asyncs, function (error, result) {if(error)cb(error,null);elsecb(null,result);}) }publish('D:\\G_2017070419.nc');
執行node app.js后
?
?
perfect!
?
2 實現批量發布地圖服務
上文《GeoServer發布地圖服務 》介紹了如何利用GeoServer發布WCS服務,那么如果我有很多數據需要進行發布,這樣利用GeoServer提供的UI界面進行操作顯然很不顯示。那能不能利用GeoServer提供的API進行操作呢?GeoServer提供了REST API方便我們利用代碼進行操作。用戶手冊中提供了如下語言或方法進行操作:cURL,PHP,Python,Java和Ruby。
可惜的是除了cURL有詳細的文檔之外,其它語言參考文檔很少。不得不說開源軟件就是沒有很好的技術支持,畢竟是開源免費的,也不可能有很好的技術支持,免費開源給你用就是最大的奉獻了。哈哈,支持開源!
Java篇
我先使用了Java語言的geoserver manager。在Eclipse新建一個Maven工程,添加相應的依賴包,下面是一個讀出數據的例子:
public static boolean read() {String restUrl = "http://localhost/geoserver";String username = "admin";String password = "geoserver";GeoServerRESTReader reader;try {reader = new GeoServerRESTReader(restUrl, username, password);} catch (MalformedURLException e) {e.printStackTrace();return false;}String workspace = "whu.images";String store = "00N006E";String name = "00N006E";RESTCoverage coverage = reader.getCoverage(workspace, store, name);System.out.println(coverage.getAbstract());return true;}
但是我在寫入柵格數據的時候出現了一些問題,如下是數據存儲的類繼承關系:
?
?我們可以看到Coverage Store沒有實現類,GSAbstractCoveragestoreEncoder是一個抽象類,而且是被標注@Deprecated的,所以我不知道怎么新建Coverage Store,本來想自己寫一個實現類,最終還是放棄了。
Python篇
后來才用的Python解決了問題,但是也不是一帆風順的。
首先安裝gsconfig包,如果不知道如何安裝,參考Python模塊常用的幾種安裝方式。
安裝完以后,代碼如下:
如下,采用默認的用戶名,密碼,默認的工作空間,所以函數的參數很少,如果你要自定義這些,詳細查看函數的說明。
from geoserver.catalog import Cataloggeourl = "http://localhost/geoserver/rest" # the url of geoserver geocat = Catalog(geourl) # create a Catalog objectstore_name = "00N010E" data = "E:/RSImageService/data/images/00N010E.tif" geocat.create_coveragestore(store_name, data)
但是上面使用create_coveragestore有一個問題,即會將你的文件默認拷貝到你的Data Directory中,如果你數據很多,這樣你就會有兩份數據了,極大的浪費了磁盤空間。
后來發現Catalog類有提供一個create_coveragestore2的方法,可以創建一個UnSavedCoveragestore,數據不會上傳。
from geoserver.catalog import Cataloggeourl = "http://localhost/geoserver/rest" # the url of geoserver geocat = Catalog(geourl) # create a Catalog object store_name = "00N010E" data_url = "fiel:E:/RSImageService/data/images/00N010E.tif" geostore = geocat.create_coveragestore2(store_name) geostore.url = data_url geocat.save(geostore)
但是程序一運行就回返回一個服務器內部錯誤505,Error code (505) from geoserver:: data store must be part of a workspace.
最后自己寫了一個方法用于發布GeoTIFF影像(從GitHub上看到的一段代碼,運行有點問題,然后自己修改了下)。給Catalog類添加一個create_coveragestore3方法,用戶發布柵格數據,同時不復制數據。這需要修改gsconfig源代碼,然后重新編譯下。
create_coveragestore3方法如下:
def create_coveragestore3(self, name, data_url, workspace=None, overwrite=False):if not overwrite:try:store = self.get_store(name, workspace)msg = "There is already a store named " + nameif workspace:msg += " in " + str(workspace)raise ConflictingDataError(msg)except FailedRequestError:# we don't really expect that every layer name will be takenpassif workspace is None:workspace = self.get_default_workspace()headers = {"Content-type": "text/plain","Accept": "application/xml"}ext = "geotiff"cs_url = url(self.service_url,["workspaces", workspace.name, "coveragestores", name, "external." + ext],{ "configure" : "first", "coverageName" : name})headers, response = self.http.request(cs_url, "PUT", data_url, headers)self._cache.clear()if headers.status != 201:raise UploadError(response)
最后的客戶端調用代碼:
from geoserver.catalog import Cataloggeourl = "http://localhost/geoserver/rest" # the url of geoserver geocat = Catalog(geourl) # create a Catalog object store_name = "00N010E" data_url = "file:E:/RSImageService/data/images/00N010E.tif" geocat.create_coveragestore3(store_name, data_url)
如果你要發布很多數據,遍歷文件夾調用create_coveragestore3即可。
3. 利用java后臺進行geoserver查詢
使用后臺的原因
?
后臺的主要實現方式
/** * geoserver查詢 * @param url 基地址 * @param layer 圖層名 * @param key 鍵 * @param value 值 * @return */ public String Geo2server(String url,String layer,String key,String value){ StringBuilder json = new StringBuilder(); MsgBox box = null; try { url += "?service=WFS&version=1.1.0&request=GetFeature&typeName=" + layer + "&outputFormat=application%2Fjson&filter=<Filter><PropertyIsEqualTo>" + "<PropertyName>"+ key +"</PropertyName>" + "<Literal>"+ value +"</Literal>" + "</PropertyIsEqualTo></Filter>"; URL newUrl = new URL(url); HttpURLConnection conn = (HttpURLConnection) newUrl.openConnection(); BufferedReader in = new BufferedReader(new InputStreamReader(conn.getInputStream(),"utf-8")); String inputLine = null; while ( (inputLine = in.readLine()) != null) { json.append(inputLine); } in.close(); } catch (MalformedURLException e) { e.printStackTrace(); } catch (IOException e) { e.printStackTrace(); } return json.toString(); }
注意事項
?
?
?
?
?
?
?
?
參考文章
遙想公瑾當年,GeoServer實現NetCDF氣象文件自動發布
TheOneGIS, GeoServer:代碼實現批量發布地圖服務
WilsonOnIsland, 利用java后臺進行geoserver查詢