云存儲，讓大數據變“小”

一、 概述

　　近年來(lái)視頻監控行業(yè)的發(fā)展愈發(fā)蓬勃，監控點(diǎn)位裝機數量呈爆發(fā)式增長(cháng)。2014年全球攝像頭出貨量達到5646萬(wàn)臺，每天產(chǎn)生的視頻監控數據量達160PB，同時(shí)隨著(zhù)監控IP化特征的持續加力等因素的影響，市場(chǎng)對視頻監控存儲產(chǎn)品的應用和發(fā)展提出了更高要求。其主要體現在對龐大存儲系統的資源的合理利用、性能的持續增長(cháng)、以及管理和服務(wù)獲取的方式等多個(gè)方面。

　　二、視頻監控存儲現狀

　　在當前視頻監控存儲產(chǎn)品中傳統的DVR/NVR、SAN、NAS等存儲方式雖仍然占有大量份額，但多適用于滿(mǎn)足小型視頻監控的需求。對于龐大存儲系統的整合、資源利用率的提升、存儲服務(wù)獲取和管理的便利性等方面，云存儲的產(chǎn)品化應用無(wú)疑是行業(yè)中的亮點(diǎn)。在云存儲的概念提出初期，其特點(diǎn)和功能長(cháng)期處于非常模糊的狀態(tài)，業(yè)界對云存儲的理解也常常是云山霧罩，究其原因實(shí)際是云存儲還沒(méi)有完成產(chǎn)品化。而從2013年起在安防行業(yè)就陸續有云存儲系統的產(chǎn)品出現，并迅速在行業(yè)中取得突破，從廠(chǎng)區、樓宇到金融銀行、再從交通系統到大型平安城市的視頻監控系統都陸陸續續出現云存儲部署的身影。隨著(zhù)視頻監控行業(yè)云存儲項目的遍地開(kāi)花，盡管實(shí)現的技術(shù)路線(xiàn)不盡相同，但是對云存儲的特質(zhì)和能力卻有了較為普遍的認識。

　　三、大數據的云存儲服務(wù)特征

　　首先，從目前多種云存儲的方案中可以明顯體會(huì )到，云存儲本身并非某一特定的技術(shù)路線(xiàn)，而是一種具有典型特質(zhì)的存儲服務(wù)方式，即可以明確地指出云存儲是一種服務(wù)，而非某種單一的技術(shù)。云存儲的服務(wù)就屏蔽了大量的技術(shù)細節、功能特點(diǎn)等繁瑣的實(shí)現原理，做到無(wú)論其構成如何復雜、系統如何龐大，其服務(wù)方式始終是具有共性和可描述的。

　　那么云存儲的服務(wù)可以描述為是統一、靈活、安全的存儲服務(wù)。統一體現在對云存儲內部的多種存儲技術(shù)、多種存儲設備形態(tài)的屏蔽。通過(guò)軟件的統一整合向用戶(hù)提供唯一的服務(wù)獲取出口，具體可以體現為唯一訪(fǎng)問(wèn)IP、唯一的管理界面、唯一的操作方式等等。

　　靈活則體現在從云存儲獲取服務(wù)時(shí)的自由度上。早期曾有業(yè)界人士將使用云存儲服務(wù)比作用水用電一樣，這種思想和方式即體現在對存儲容量獲取的靈活性上。用戶(hù)使用云存儲服務(wù)，將自己的數據寫(xiě)入云存儲，可做到需要多少容量就獲取多少容量，不受限于底層存儲設備的規格限制。這個(gè)就需要云存儲系統在容量分配時(shí)能夠做到足夠的精準，同時(shí)對調整的要求也要足夠靈活。

　　安全體現的是云存儲提供可靠保障的能力，對不同的數據可以提供不同的安全級別保障，差異化服務(wù)。視頻監控數據體量龐大，因此常有不同的存儲周期要求，不同的存儲周期對于數據的完整性要求也不盡相同。因此云存儲系統提供存儲安全保障的能力應該匹配實(shí)際項目的需求，在項目成本控制和安全級別要求上達到平衡和共識。

　　四、大數據的云存儲服務(wù)難點(diǎn)與挑戰

　　1、統一服務(wù)

　　上述云存儲的服務(wù)能力雖然容易達成一致，但是在技術(shù)路線(xiàn)選取、具體能力級別的實(shí)現上卻普遍出現較大差異。首先就統一的服務(wù)獲取出口這一功能就需要云存儲系統具有強大的橫向擴展能力，需要在系統容量擴展上不存在上限，同時(shí)性能也要與容量保持同等線(xiàn)性增長(cháng)才能滿(mǎn)足在擴容的同時(shí)服務(wù)質(zhì)量不至于下降。當前實(shí)現云存儲的架構一般多為分布式存儲架構，雖然云存儲系統是物理位置相對集中的中心存儲方案，但是在系統內部數據卻是被切片后存儲在不同的物理設備上的。在這種架構上元數據服務(wù)器起到對數據分布式的統一調度、靈活分配、動(dòng)態(tài)調整的作用，其性能直接決定云存儲系統的規模。常規的元數據服務(wù)器主備工作模式采取的是一主一備兩臺元數據服務(wù)器，其中只有一臺服務(wù)器在工作，另一臺僅同步配置信息和元數據信息，并不響應業(yè)務(wù)的分布式調度需求，因此性能并未有任何提升。在此種工作模式下，云存儲系統也往往存在容量和性能瓶頸，我們常規看到的可管理存儲設備最大數量從16臺到30臺不等，各廠(chǎng)商實(shí)現也不盡相同。這種規模級別直接制約了云存儲系統的統一服務(wù)能力。

　　而最新興起的元數據服務(wù)器集群組建方式則有效地解決了這一問(wèn)題。元數據服務(wù)器通過(guò)彼此間相互同步元數據信息，共同對整個(gè)系統提供分布式存儲策略調度和管理，有效地提升整個(gè)云存儲系統管理性能。通過(guò)元數據集群本身的線(xiàn)性增長(cháng)，可以促使存儲設備數量的不斷增加，真正實(shí)現容量的無(wú)阻礙橫向擴展，在超大規模云存儲系統的統一服務(wù)提供上做出了有效的支撐。

　　2、靈活服務(wù)

　　在存儲容量靈活性要求下，需要云存儲系統能夠最大限度匹配視頻監控的存儲需求。1路2Mbps的標清攝像頭，一天產(chǎn)生的數量約為21GB。若一天中只有工作時(shí)間錄像或者事件觸發(fā)錄像則產(chǎn)生的數據量更低。在民用視頻監控行業(yè)中對于按需付費的思路則要求云存儲分配的存儲空間粒度至少是GB級別。這對于云存儲的空間分配策略、虛擬化容量整合能力提出了嚴峻的要求。傳統按照邏輯卷或者磁盤(pán)大小為單位的構建方式將直接導致分配容量時(shí)粒度過(guò)大，不能滿(mǎn)足這種靈活的容量分配需求。因此在云存儲技術(shù)實(shí)現中對磁盤(pán)容量進(jìn)行更低粒度的切片，生成更低粒度的數據塊，以在容量的分配、調整上換取更大的靈活性成為一種可行的技術(shù)方向。以數據塊作為云存儲基礎的數據單元之后，可以實(shí)現數據的靈活分配、調整、以及對分布式存儲的支持和大數據并發(fā)吞吐性能的提升都帶來(lái)的意想不到的好處。但是隨之而來(lái)的問(wèn)題則是對大量數據塊如何進(jìn)行有效的管理，在這里業(yè)界主要有兩種不同的方向。

　　第一種方向的思路通過(guò)文件系統對數據塊資源進(jìn)行組織和利用，這種思路的優(yōu)勢是可以支持多種數據的存儲，不限定數據類(lèi)型。但同時(shí)也忽略了視頻錄像數據是流式數據的這一本質(zhì)特點(diǎn)，在視頻錄像的存儲效率和應用擴展上做出了犧牲和讓步。要說(shuō)清這個(gè)問(wèn)題需要理解視頻流式數據與非流式的文件數據的差異。簡(jiǎn)單來(lái)講流式數據在視頻監控領(lǐng)域是由攝像機產(chǎn)生，以開(kāi)始錄像為起點(diǎn)持續不斷的產(chǎn)生，在不做時(shí)間限定的前提下是沒(méi)有結束的，因此其數據量大小也會(huì )不斷增加沒(méi)有終點(diǎn)。而非流式的文件型數據則是有固定的文件大小、文件格式、文件名稱(chēng)等文件屬性。如果以非流式的文件方式存儲流式的視頻數據則需要將視頻流人為截斷、按照文件名、按照數據量大小生成一個(gè)個(gè)單獨的視頻文件，這從本質(zhì)上就破壞的流式數據的特征。再加上對視頻流檢索查找時(shí)，在文件系統中就只能通過(guò)文件名、目錄結構、文件屬性等進(jìn)行檢索查找，無(wú)法深入精確的定位到每一秒或者每一毫秒的視頻數據，在視頻數據的使用和大數據分析上人為增加了技術(shù)壁壘。

　　第二種方向的思路則跳開(kāi)了文件系統對流式視頻數據的制約，采用流式系統存儲流式數據的方式，若不限定視頻流的錄像時(shí)間則滿(mǎn)足視頻流不斷持續寫(xiě)入數據塊，同時(shí)在視頻流寫(xiě)入時(shí)加入精確的時(shí)間點(diǎn)定位以支持精準檢索的需要。這樣的視頻寫(xiě)入方式直面視頻錄像數據本質(zhì)，不但能夠滿(mǎn)足視頻流高效、連續的存儲需要，同時(shí)又能精準定位到視頻數據的每一個(gè)時(shí)間點(diǎn)，在視頻數據應用上極大的滿(mǎn)足了其本質(zhì)需求。因此此種方式不但回放和下載時(shí)更精準，同時(shí)更為可貴的是不會(huì )產(chǎn)生文件碎片，從而大幅提高云存儲系統的吞吐性能和資源利用率。

　　就目前行業(yè)內對于云存儲的具體處理方式上，以上兩種方式都已經(jīng)實(shí)現。以?？低暈榇淼陌卜佬袠I(yè)的視頻監控廠(chǎng)商則更為關(guān)注于視頻流式數據的本質(zhì)，因此應用第二種方式的較多。

　　3、安全服務(wù)

　　在數據安全的可靠性保障上，目前主流應用的技術(shù)也較為豐富。從RAID5、6技術(shù)到基于糾刪碼的網(wǎng)絡(luò )RAID技術(shù)、到多副本保障技術(shù)、到異地數據中心的備份恢復技術(shù)等多種。需要理清的是采取更高級別的安全可靠性保障的同時(shí)對具體的物理設備數量、功能要求也越為嚴格。就視頻錄像數量的容量上看，其體量是非常龐大的，而且在大量視頻錄像產(chǎn)生的基礎上，多數視頻錄像是會(huì )隨時(shí)間不斷被循環(huán)覆蓋掉。在這樣情況下為滿(mǎn)足過(guò)高的可靠性保障而投入大量成本和資金就變成一種不經(jīng)濟的做法。因此對數據安全性需求進(jìn)行區分，支持分級別安全可靠性保障就是一種結合安全和成本的綜合考慮方式。這種方式就對云存儲提出了要支持分級安全存儲的功能要求。就目前行業(yè)云存儲的實(shí)現來(lái)看，也僅僅是少量廠(chǎng)商能夠支持如此豐富的安全和可靠性的要求，多數廠(chǎng)商在安全可靠性上還停留在某種單一方案上。當然，隨著(zhù)技術(shù)的不斷發(fā)展，越來(lái)越豐富的安全可靠性機制也會(huì )逐漸被大家所認識和接受。

　　?？低曉拼鎯ο到y秉承于技術(shù)服務(wù)安防的理念，將云存儲核心技術(shù)框架與視頻監控行業(yè)特性結合。通過(guò)統一的服務(wù)窗口、靈活的容量分配方式和基于業(yè)務(wù)的分級可靠性保障為云存儲在視頻監控系統中的應用提供有效的方案支撐。

　　五、大數據的云存儲價(jià)值

　　在風(fēng)起云涌的大數據云時(shí)代，機遇始終是與挑戰并存的。大數據的核心訴求是對數據內容的分析和價(jià)值的挖掘。在多種數據類(lèi)型中，結構化數據是最便于提取到信息價(jià)值的，而以視頻數據為代表的非結構化數據的提取難度則是非常大的。因此作為存儲系統，其是否能夠對于大數據應用做出良好的支撐就顯得尤為重要。而作為整個(gè)大數據體系中，存儲系統又是最底層的，其保留的是大量未經(jīng)分析的基礎數據，大數據的挖掘則是需要通過(guò)云計算系統的超強計算能力對龐大的基礎數據進(jìn)行計算分析，得出可結構化的價(jià)值信息，以提供給各個(gè)應用需求進(jìn)行整理和挖掘。視頻數據的結構化除了完全依賴(lài)云計算系統外，云存儲系統如果具備基本的處理能力，與云計算系統進(jìn)行配合則可大幅提高整個(gè)過(guò)程的效率。這就要求云存儲不僅滿(mǎn)足高效存儲的功能，還能夠針對應用做出適度的調整。目前沿著(zhù)整個(gè)大數據視頻分析挖掘的方向來(lái)看，前端智能、后端分析的結合處理效果會(huì )比較明顯。前端攝像機在錄像時(shí)即可產(chǎn)生基礎的智能化結構信息，云存儲負責視頻錄像數據和智能結構化數據存儲，同時(shí)也可以對視頻畫(huà)面做基礎的剝離和提取，云計算直接從云存儲中獲取剝離的畫(huà)面數據和智能結構化數據用于進(jìn)一步的分析計算，全面生成有價(jià)值的結構化數據，各個(gè)大數據分析應用從結構化數據中提取數據原型進(jìn)行規則比對、篩選最后得出大數據應用的結果并進(jìn)行呈現，這些過(guò)程一環(huán)接一環(huán)配合推進(jìn)才能高效實(shí)現視頻大數據的價(jià)值挖掘。?？低曉拼鎯ο到y作為大數據整體解決方案的重要組成部分，在提供統一、靈活、安全數據存儲服務(wù)的同時(shí)，充分理解大數據價(jià)值挖掘所面臨的挑戰，將數據存儲與基礎分析完美融合，向大數據平臺提供有效的數據來(lái)源，全面服務(wù)視頻大數據的工作開(kāi)展，做出了積極、有效的嘗試和努力。

　　?？低曉拼鎯ο到y作為大數據整體解決方案的重要組成部分，在提供統一、靈活、安全數據存儲服務(wù)的同時(shí)，充分理解大數據價(jià)值挖掘所面臨的挑戰，將數據存儲與基礎分析完美融合，向大數據平臺提供有效的數據來(lái)源，全面服務(wù)視頻大數據的工作開(kāi)展，做出了積極、有效的嘗試和努力。

　　六、結語(yǔ)

　　無(wú)論現在或者是將來(lái)，云存儲技術(shù)在視頻監控行業(yè)的應用將是視頻大數據系統中不可缺失的一環(huán)。云存儲在未來(lái)發(fā)展的方向應不僅僅局限于本身存儲業(yè)務(wù)的各種功能實(shí)現，更要從全面、宏觀(guān)的角度找準自身在大數據浪潮中的定位，為視頻監控行業(yè)中存儲系統應用化的深度發(fā)展做好準備和經(jīng)驗積累。讓躺在存儲系統中寶貴的海量視頻數據資源迸發(fā)出耀眼的光芒。