作者:來自 Elastic?Jennie Davidowitz
在數字時代,州和地方政府越來越多地承擔著管理大量數據的任務,同時確保遵守嚴格的監管要求。這些法規可能因司法管轄區而異,通常要求將數據保留較長時間 —— 有時從一年到七年不等。遵守刑事司法信息服務 (Criminal Justice Information Services - CJIS)、健康保險流通與責任法案 (Health Insurance Portability and Accountability Act - HIPAA) 和支付卡行業數據安全標準 (Payment Card Industry Data Security Standard? - PCI DSS) 等標準不僅是法律義務,也是維護公眾信任和運營完整性的關鍵組成部分。Elastic Cloud 提供強大的解決方案,幫助政府實體高效且經濟地滿足這些合規需求。
使用 Elasticsearch logsdb 索引模式降低數據存儲成本
最近推出的 Elasticsearch logsdb 索引模式旨在通過高效存儲和搜索基本日志數據來顯著降低數據存儲成本。Logsdb 索引模式可以將數據存儲成本降低高達 65%,使其成為旨在優化數據管理預算的公共部門組織的理想選擇。通過使用 logsdb 索引模式,政府機構可以維護全面的日志數據以用于合規和審計目的,而無需承擔過高的成本。此功能可確保關鍵日志數據保持可訪問和管理,支持長期數據保留策略,同時遵守預算限制。
Elastic 的數據分層策略:提取和搜索/存檔
與其他供應商不同,Elastic 的數據分層方法通過根據訪問頻率和成本將數據分類到存儲層來優化數據管理:
- 熱層(Hot tier):專為頻繁訪問、需要快速分析的關鍵數據而設計。熱層中的數據通常保留一到七天,以便立即進行分析。
- 冷層(Cold tier):適用于不經常訪問的只讀數據,使用低成本的對象存儲,如 AWS S3。它通過緩存和部分恢復來平衡成本和性能。
- 凍結層(Frozen tier):非常適合長期保留,將數據完全存儲在對象存儲中長達兩年或更長時間。Elastic 獨特的可搜索快照功能支持直接搜索而無需任何補水,從而保持高效的搜索性能。大多數 Elastic 客戶一直采用熱凍結架構,其中數據在熱層中存儲一到三天,其余數據在凍結層中。這種方法可以顯著降低成本,同時保持高水平的搜索性能。
Elastic 的冷層和凍結層的搜索速度與競爭對手的熱層相當,通常無需使用暖層(warm tier)。這種方法允許以相同的成本存儲多達 20 倍的只讀數據,從而降低總擁有成本并提高數據可用性、合規性和業務成果。
可搜索快照如何工作?
可搜索快照(searchable snapshots)允許你將數據保留在低成本的對象存儲中,由 Elastic 管理,并且無需恢復即可進行搜索,從而避免延遲、傳輸成本和潛在的數據駐留問題。這對于處于凍結層的數據尤其有利,在該層中存儲成本被降至最低,但數據仍然可用于分析和合規目的。
- 快照創建:Elastic 集群中的數據會被定期捕獲,并作為快照存儲在選定的對象存儲庫中。這些快照是索引的時間點副本。
- 可搜索性:與傳統快照需要恢復后才能查詢不同,可搜索快照支持直接查詢存儲在對象存儲中的數據。
- 成本效益:通過 Elastic 將數據存儲在對象存儲中,組織可以享受比傳統塊存儲更低的存儲成本。
- 緩存加速性能:Elastic 通過緩存常用搜索結果來加快查詢速度。如果搜索需要的數據不在緩存中,Elasticsearch 會從快照存儲庫中獲取缺失數據。這類搜索可能較慢,但獲取的數據會存入緩存,以便后續類似查詢更快返回結果。Elasticsearch 會逐出不常使用的數據以釋放緩存空間。當節點重啟時,緩存將被清空。
這種方法大大降低了總擁有成本,使其成為預算緊張的政府實體的理想選擇。
通過設置快照存儲庫卸載長期數據
Elastic 與多種對象存儲解決方案集成,允許政府機構將數據卸載到他們選擇的存儲庫,例如 AWS、Azure Blob Storage 或 Google Cloud Platform。Elasticsearch 還提供了在本地存儲數據的選項,用于需要監管或數據主權的用例。
工作原理如下:
- 存儲庫設置:在 Elastic Cloud 中,使用你首選的云存儲服務配置快照存儲庫。這涉及設置必要的憑據和權限,以允許 Elastic 存儲和檢索你選擇的存儲解決方案中的數據。
- 可搜索快照:配置存儲庫后,創建索引的可搜索快照。這些快照存儲在配置的存儲庫中,可以直接查詢,而無需將它們還原到 Elastic 集群。
- 成本效益和靈活性:通過使用你自己的存儲帳戶,你可以保持對數據的控制,并可以根據特定的性能需求和保留要求優化成本。可搜索快照提供了一種經濟高效的方式來保留長期數據,同時確保它仍然可用于分析和合規目的。
了解有關快照存儲庫的更多信息。
可擴展的數據增長選項
Elastic 的數據分層策略(從熱到冷)為政府機構提供了強大的工具來管理云中的長期數據保留。通過使用可搜索快照和 logsdb 索引模式,機構可以實現成本節約、可擴展性和合規性,同時保持高效搜索和分析數據的能力。隨著數據的不斷增長,Elastic 為管理和使用這種寶貴資源提供了可持續的解決方案。
有關設置可搜索快照和與云存儲集成的更詳細指導,請參加我們于 2025 年 3 月 12 日舉辦的公共部門長期數據保留研討會。在此處注冊。
相關資源
- 博客:實時日志和發展:Elasticsearch 全新專業化的 logsdb 索引模式
- 博客:Elastic 搜索快照如何工作?
- 博客:有什么區別?Elastic 和 Splunk 數據層
- 博客:冰,冰,也許:評估可搜索快照的性能
- 白皮書:使用 Elastic 作為數據網格加速你的任務
原文:Optimizing long-term data retention with Elastic Cloud Hosted: Ensuring compliance and efficiency for government | Elastic Blog