基于ZTE云存儲技術的架構分析
「隨著云計算技術的飛速發展,傳統的集中存儲技術已經越來越不適應當今社會的需要,云存儲技術通過虛擬化、分布式系統、對象存儲等逐漸替代了傳統存儲技術的市場。文章從云存儲技術實現層次、ZTE集中式存儲架構、ZTE分布式存儲架構三個方面入手,結合虛擬化、分布式系統等核心架構技術,設計并整合了兩種可以實施的云存儲技術架構。(2023-2-25)」
關鍵詞: ZTE; 云存儲; 集中式; 分布式; 架構
中圖分類號:TP393.08 文獻標志碼:A 文章編號:1006-8228(2019)02-15-03
Analysis of the architecture of ZTE cloud storage technology
Wang Yongping
。╖hejiang Institute of Communications, Hangzhou, Zhejiang 311112, China)
Abstract: With the rapid development of cloud computing technology, traditional centralized storage technology has become more and more unsuitable for the needs of today's society. Cloud storage technology has gradually replaced the market of traditional storage technology through virtualization, distributed system, and object storage. This paper starts from three aspects: cloud storage technology implementation level, ZTE centralized storage architecture and ZTE distributed storage architecture, combined with virtualization, distributed system and other core architecture technologies, designs and integrates two implementable cloud storage technology architectures.
Key words: ZTE; cloud storage; centralized; distributed; architecture
0 引言
傳統的存儲技術是將所有的數據集成到單一的存儲體系之中,以滿足業務持續性需求。在當今信息量暴增的時代,數據的索引效率變得越來越為人們關注。在一些大型項目中,前端圖像視頻信息采集點過多,單臺服務器承載量有限,造成需要配置成百上千臺服務器的狀況,這就必然導致建設成本、管理成本、維護成本、能耗成本急劇增加。在這個大數據時代,對于數據的安全存儲和應用需要與之相適應的新的技術手段,而以分布式和并行處理為基礎的云計算和云存儲技術,在此過程中得到了極大地發展。
相對傳統存儲而言,云存儲改變了數據垂直存儲在某一臺物理設備的存放模式,通過寬帶網絡集合大量的存儲設備,通過存儲虛擬化、分布式文件系統、底層對象化等技術將位于各單一存儲設備上的物理存儲資源進行整合,構成邏輯上統一的存儲資源池,對外提供服務,從而在存儲容量上得以從單設備TB級橫向擴展至數十、數百PB,由于云存儲系統中各節點能夠并行提供讀寫訪問服務,系統整體性能隨著業務節點的增加而獲得同步提升。同時,通過冗余編碼技術、遠程復制技術,進一步為系統提供數據中心級的故障保護能力。容量和性能的按需擴展、極高的系統可用性,是云存儲系統最核心的技術特征。
1 云存儲技術實現層次
從云存儲的技術實現層次上看,從底層向上,可以分為存儲層、管理調度層、訪問接口層、應用服務層等四個層次,如圖1所示。
存儲層是云存儲的基礎,一臺云存儲節點設備能安裝24個以上的硬盤,通過IP接口將大量的存儲設備互連在一起,形成存儲設備資源池。在一個云存儲系統中,底層物理存儲設備數量龐大,而且設備形態允許異構(這樣可以接入傳統的IP SAN或FC SAN),在物理存儲設備之上是一個統一的存儲設備管理層,實現對物理存儲設備的邏輯虛擬化管理、狀態監控和維護等功能。
管理調度層是云存儲核心部分。管理調度層的主要功能是在存儲層提供的存儲資源上部署分布式文件系統,建立和組織存儲資源對象,并將用戶數據進行分片處理,按照設定的保護策略將分片后的數據分散存儲到具體的存儲資源上。同時,在節點間進行讀寫負載均衡調度,以及節點或存儲資源失效后的業務調度與數據重建恢復等任務,以便始終提供高性能、高可用的訪問服務[1]。
訪問接口層是業務應用和云存儲平臺之間的一個橋梁,提供應用服務所需要調用的函數接口,通常云存儲系統會提供一套專用的API或客戶端軟件,業務應用軟件直接調用API或者使用云存儲系統客戶端軟件對云存儲系統進行讀寫訪問。由于一個云存儲系統需要支持多種不同的業務系統,而很多業務系統只能采用特定的訪問接口,例如塊接口或者POSIX接口,因此一個優秀的云存儲系統,應該同時提供多種訪問接口,例如ISCSI、NFS、CIFS、FTP、REST等,以便在業務適配方面具有更好靈活性[2]。
業務應用層通過云存儲系統提供的各種訪問接口,對用戶提供豐富的業務類型,例如空間租賃服務、高清視頻監控、視頻圖片智能分析、大數據查找等。 2 ZTE集中式存儲架構分析
集中式云存儲系統是一種典型的非對稱式系統,在系統中,通常具有一個中央管理服務器,負責數據的存儲和處理查詢與修改請求?蛻舳嗣看螌祿鞯腎/O操作,都需要先向管理服務器進行數據查詢,客戶端在獲得需要讀寫的數據塊物理位置等信息后,對于數據的I/O操作則直接在客戶端和數據存儲節點之間進行。相對于傳統存儲系統,集中元數據云存儲系統將控制流和數據流進行了分離,系統在擴展性和處理性能方面獲得了較大的提升,同時,由于元數據集中在一臺服務器上進行管理,整個系統架構比較簡單,降低了系統設計的復雜性[3]。
ZXCLOUD KS3200是一款模塊化程度高的存儲系統,提供iSCSI主機和FC主機連接技術,系統通過采用全冗余的、可熱插拔的模塊化技術構建,有高級別的數據存儲可靠性。ZXCLOUD KS3200存儲系統主要面向企業用戶海量數據存儲和硬盤數據備份等應用,包括高標清節目的制作、多媒體視頻數據存儲、IPTV、視頻監控、中小數據庫,以及文件歸檔與數據備份等應用。ZTE集中存儲解決方案的組網如圖2所示。
該方案中,ZXCLOUD KS3200作為核心存儲設備,通過FC SAN、IP SAN和DAS等多種存儲架構與局域網多臺服務器建立連接,服務器通過普通千兆網卡或HBA(FC、iSCSI和SAS)卡接入。ZXCLOUD KS3200可以配備高性能的SAS磁盤和大容量的SATA磁盤,單臺設備即可滿足兩種不同的應用需求。
雖然集中云存儲系統架構簡單,但存在兩個主要問題。
、 性能瓶頸問題。數據的基本特性要求任何時候對用戶數據的訪問,需要同步地修改元數據,由于每次I/O訪問都需要首先訪問數據服務器,隨著系統規模不斷擴大,需要管理的存儲節點、文件數量、I/O操作數量等都會急劇增加,而對元數據進行管理的物理服務器性能有限,從而形成性能瓶頸。
、 數據服務器單點故障問題。在集中元數據云存儲系統中,整個系統的性能和可靠性完全依賴于數據服務器,一旦數據服務器故障,系統將無法提供任何服務。為解決這一問題,通常對數據服務器采用備份機形成HA解決方案來提供更高的系統可用性,主用服務器和備用服務器之間的元數據必須隨時同步,否則一旦主用服務器故障,則可能導致數據不一致問題[4]。
3 ZTE分布式存儲架構分析
ZTE分布式存儲架構的主要思想是:生產中心和災備中心各部署一套ZXCLOUD KS3200存儲系統,利用遠程復制功能、卷遷移、NDMP復制等多種手段實現基于WAN網絡的數據復制。若數據中心的設備硬件上發生故障,災備中心的ZXCLOUD KS3200可以直接升級成為在線設備,支持業務系統正常運行。在線系統恢復正常后,可通過反向數據復制,把災備中心的數據恢復到生產中心中[5]。ZTE分布式存儲解決方案的組網如圖3所示。
采用多臺數據服務器形成集群工作的方式提供元數據訪問服務,集群中的每一臺設備都可以提供元數據訪問,從而提高整體訪問性能,并且解決了數據服務器單點故障問題。
4 結束語
近年來,教育部與中興通訊開展合作,中興在全國諸多高校建立基于云計算的數據處理中心。本文主要探討了中興在部分高校部署云存儲的兩種架構。對于企事業單位而言,需要根據自己的應用、服務、數據等建立相應的云存儲架構,管理人員需要將現有的存儲資源、存儲技術和存儲虛擬化相關聯,找到適合自己的存儲策略才是最為重要的,從而更好的利用資源、節約成本、簡化存儲管理。
參考文獻(References):
[1] 張繼平編著.云存儲解析[M].人民郵電出版社,2013.
[2] 劉洋編著.云存儲技術——分析與實踐[M].經濟管理出版社,2017.
[3] (美)Greg Schulz著.云和虛擬數據存儲網絡[M].國防工業版社,2017.
[4](美)Tom White著.Hadoop權威指南:大數據的存儲與分析(第4版)[M].清華大學出版社,2017.
[5] 胡世杰著.分布式對象存儲[M].人民郵電出版社,2017.
(挽TI)
中圖分類號:TP393.08 文獻標志碼:A 文章編號:1006-8228(2019)02-15-03
Analysis of the architecture of ZTE cloud storage technology
Wang Yongping
。╖hejiang Institute of Communications, Hangzhou, Zhejiang 311112, China)
Abstract: With the rapid development of cloud computing technology, traditional centralized storage technology has become more and more unsuitable for the needs of today's society. Cloud storage technology has gradually replaced the market of traditional storage technology through virtualization, distributed system, and object storage. This paper starts from three aspects: cloud storage technology implementation level, ZTE centralized storage architecture and ZTE distributed storage architecture, combined with virtualization, distributed system and other core architecture technologies, designs and integrates two implementable cloud storage technology architectures.
Key words: ZTE; cloud storage; centralized; distributed; architecture
0 引言
傳統的存儲技術是將所有的數據集成到單一的存儲體系之中,以滿足業務持續性需求。在當今信息量暴增的時代,數據的索引效率變得越來越為人們關注。在一些大型項目中,前端圖像視頻信息采集點過多,單臺服務器承載量有限,造成需要配置成百上千臺服務器的狀況,這就必然導致建設成本、管理成本、維護成本、能耗成本急劇增加。在這個大數據時代,對于數據的安全存儲和應用需要與之相適應的新的技術手段,而以分布式和并行處理為基礎的云計算和云存儲技術,在此過程中得到了極大地發展。
相對傳統存儲而言,云存儲改變了數據垂直存儲在某一臺物理設備的存放模式,通過寬帶網絡集合大量的存儲設備,通過存儲虛擬化、分布式文件系統、底層對象化等技術將位于各單一存儲設備上的物理存儲資源進行整合,構成邏輯上統一的存儲資源池,對外提供服務,從而在存儲容量上得以從單設備TB級橫向擴展至數十、數百PB,由于云存儲系統中各節點能夠并行提供讀寫訪問服務,系統整體性能隨著業務節點的增加而獲得同步提升。同時,通過冗余編碼技術、遠程復制技術,進一步為系統提供數據中心級的故障保護能力。容量和性能的按需擴展、極高的系統可用性,是云存儲系統最核心的技術特征。
1 云存儲技術實現層次
從云存儲的技術實現層次上看,從底層向上,可以分為存儲層、管理調度層、訪問接口層、應用服務層等四個層次,如圖1所示。
存儲層是云存儲的基礎,一臺云存儲節點設備能安裝24個以上的硬盤,通過IP接口將大量的存儲設備互連在一起,形成存儲設備資源池。在一個云存儲系統中,底層物理存儲設備數量龐大,而且設備形態允許異構(這樣可以接入傳統的IP SAN或FC SAN),在物理存儲設備之上是一個統一的存儲設備管理層,實現對物理存儲設備的邏輯虛擬化管理、狀態監控和維護等功能。
管理調度層是云存儲核心部分。管理調度層的主要功能是在存儲層提供的存儲資源上部署分布式文件系統,建立和組織存儲資源對象,并將用戶數據進行分片處理,按照設定的保護策略將分片后的數據分散存儲到具體的存儲資源上。同時,在節點間進行讀寫負載均衡調度,以及節點或存儲資源失效后的業務調度與數據重建恢復等任務,以便始終提供高性能、高可用的訪問服務[1]。
訪問接口層是業務應用和云存儲平臺之間的一個橋梁,提供應用服務所需要調用的函數接口,通常云存儲系統會提供一套專用的API或客戶端軟件,業務應用軟件直接調用API或者使用云存儲系統客戶端軟件對云存儲系統進行讀寫訪問。由于一個云存儲系統需要支持多種不同的業務系統,而很多業務系統只能采用特定的訪問接口,例如塊接口或者POSIX接口,因此一個優秀的云存儲系統,應該同時提供多種訪問接口,例如ISCSI、NFS、CIFS、FTP、REST等,以便在業務適配方面具有更好靈活性[2]。
業務應用層通過云存儲系統提供的各種訪問接口,對用戶提供豐富的業務類型,例如空間租賃服務、高清視頻監控、視頻圖片智能分析、大數據查找等。 2 ZTE集中式存儲架構分析
集中式云存儲系統是一種典型的非對稱式系統,在系統中,通常具有一個中央管理服務器,負責數據的存儲和處理查詢與修改請求?蛻舳嗣看螌祿鞯腎/O操作,都需要先向管理服務器進行數據查詢,客戶端在獲得需要讀寫的數據塊物理位置等信息后,對于數據的I/O操作則直接在客戶端和數據存儲節點之間進行。相對于傳統存儲系統,集中元數據云存儲系統將控制流和數據流進行了分離,系統在擴展性和處理性能方面獲得了較大的提升,同時,由于元數據集中在一臺服務器上進行管理,整個系統架構比較簡單,降低了系統設計的復雜性[3]。
ZXCLOUD KS3200是一款模塊化程度高的存儲系統,提供iSCSI主機和FC主機連接技術,系統通過采用全冗余的、可熱插拔的模塊化技術構建,有高級別的數據存儲可靠性。ZXCLOUD KS3200存儲系統主要面向企業用戶海量數據存儲和硬盤數據備份等應用,包括高標清節目的制作、多媒體視頻數據存儲、IPTV、視頻監控、中小數據庫,以及文件歸檔與數據備份等應用。ZTE集中存儲解決方案的組網如圖2所示。
該方案中,ZXCLOUD KS3200作為核心存儲設備,通過FC SAN、IP SAN和DAS等多種存儲架構與局域網多臺服務器建立連接,服務器通過普通千兆網卡或HBA(FC、iSCSI和SAS)卡接入。ZXCLOUD KS3200可以配備高性能的SAS磁盤和大容量的SATA磁盤,單臺設備即可滿足兩種不同的應用需求。
雖然集中云存儲系統架構簡單,但存在兩個主要問題。
、 性能瓶頸問題。數據的基本特性要求任何時候對用戶數據的訪問,需要同步地修改元數據,由于每次I/O訪問都需要首先訪問數據服務器,隨著系統規模不斷擴大,需要管理的存儲節點、文件數量、I/O操作數量等都會急劇增加,而對元數據進行管理的物理服務器性能有限,從而形成性能瓶頸。
、 數據服務器單點故障問題。在集中元數據云存儲系統中,整個系統的性能和可靠性完全依賴于數據服務器,一旦數據服務器故障,系統將無法提供任何服務。為解決這一問題,通常對數據服務器采用備份機形成HA解決方案來提供更高的系統可用性,主用服務器和備用服務器之間的元數據必須隨時同步,否則一旦主用服務器故障,則可能導致數據不一致問題[4]。
3 ZTE分布式存儲架構分析
ZTE分布式存儲架構的主要思想是:生產中心和災備中心各部署一套ZXCLOUD KS3200存儲系統,利用遠程復制功能、卷遷移、NDMP復制等多種手段實現基于WAN網絡的數據復制。若數據中心的設備硬件上發生故障,災備中心的ZXCLOUD KS3200可以直接升級成為在線設備,支持業務系統正常運行。在線系統恢復正常后,可通過反向數據復制,把災備中心的數據恢復到生產中心中[5]。ZTE分布式存儲解決方案的組網如圖3所示。
采用多臺數據服務器形成集群工作的方式提供元數據訪問服務,集群中的每一臺設備都可以提供元數據訪問,從而提高整體訪問性能,并且解決了數據服務器單點故障問題。
4 結束語
近年來,教育部與中興通訊開展合作,中興在全國諸多高校建立基于云計算的數據處理中心。本文主要探討了中興在部分高校部署云存儲的兩種架構。對于企事業單位而言,需要根據自己的應用、服務、數據等建立相應的云存儲架構,管理人員需要將現有的存儲資源、存儲技術和存儲虛擬化相關聯,找到適合自己的存儲策略才是最為重要的,從而更好的利用資源、節約成本、簡化存儲管理。
參考文獻(References):
[1] 張繼平編著.云存儲解析[M].人民郵電出版社,2013.
[2] 劉洋編著.云存儲技術——分析與實踐[M].經濟管理出版社,2017.
[3] (美)Greg Schulz著.云和虛擬數據存儲網絡[M].國防工業版社,2017.
[4](美)Tom White著.Hadoop權威指南:大數據的存儲與分析(第4版)[M].清華大學出版社,2017.
[5] 胡世杰著.分布式對象存儲[M].人民郵電出版社,2017.
(挽TI)