淺析大數據時代數據管理面臨的新挑戰(zhàn)

1、    淺析大數據時代數據管理面臨的新挑戰(zhàn)    陳婧?王蘭花?郭鵬程伴隨物聯(lián)網、云計算和人工智能等技術的快速發(fā)展，以微博、微信等為代表的新型信息發(fā)布平臺的出現(xiàn)，數據正以前所未有的速度增長，在數據出現(xiàn)多源異構、動態(tài)增長等特點后，傳統(tǒng)的數據管理方式已經不能滿足海量數據的需求，新的挑戰(zhàn)應運而生。一、大數據概述大數據（big data）術語早在20世紀80年代就已經提出，nature雜志于2008年刊登了一篇題為“big data：science in the petabyte era”的文章后，大數據的概念才漸漸被人知曉。近年來，大數據的價值逐漸得到體現(xiàn)，成

2、為人們研究的重點領域。2008年，馬云通過整合旗下電子商務網站中的消費者訂單數據等信息，發(fā)現(xiàn)海外企業(yè)的采購量急劇下降，提前6個月的時間準確地預測出世界金融危機。2009年，google公司利用人們網上搜索的相關詞條，如咳嗽、發(fā)熱等，并依據檢索的頻率、時間和空間建立分析預測系統(tǒng)，成功預測出甲型h1n1流感病毒的爆發(fā)，及時發(fā)出預警信息。此類例子不勝枚舉。二、大數據時代面臨的新挑戰(zhàn)（一）數據集成的挑戰(zhàn)大數據背景下，數據集成有新的需求：1.廣泛的異構性。傳統(tǒng)的數據一般是結構性數據，處理技術也非常成熟，但在大數據時代，數據的類型出現(xiàn)了新的變化。2.數據從以往的多以結構化的形式體現(xiàn)逐漸向結構化、半結構化和

3、非結構化這三者的融合過度。3.數據越來越多樣，而多樣性的變化源于數據源的變化。傳統(tǒng)數據一般產生于個人pc或者服務器，這些設備較固定。隨著web 2.0技術的發(fā)展，移動智能終端（如智能手機、平板和gps導航儀等）的普及，數據量呈爆炸式增長，并開始具備跨時空的特性。（二）數據分析的挑戰(zhàn)傳統(tǒng)數據分析一般是在結構化數據上展開的，已經形成了一套成熟的分析體系，例如聯(lián)機分析處理（on-line analytic processing，olap）模式。隨著大數據時代的到來，半結構化甚至非結構化的數據量猛增，傳統(tǒng)的分析技術已經無法應付這些海量：1.數據處理的實時性。大數據時代，數據往往是具有時效性要求的，時間

4、越短，能夠從中獲得的數據價值越高。而在大數據分析方法上，沒有一個通用的實時處理框架。2.在動態(tài)變化環(huán)境中進行索引。大數據環(huán)境中，數據量是海量的，利用傳統(tǒng)的索引方式從海量不同類型的數據中找到一條想要的記錄是非常困難的，因此設計一種新的索引方式勢在必行。3.先驗知識的缺乏。大數據時代，數據多以半結構化和非結構化的形式存在，這些數據之間難以建立直接建立聯(lián)系，很多實時數據是以流的形式流入數據分析系統(tǒng)中，因此難有時間去建立先驗知識。（三）數據隱私與安全的挑戰(zhàn)個人隱私問題始終貫穿互聯(lián)網時代，在大數據時代，數據的隱私與安全問題更為嚴重。1.隱性數的暴露。在互聯(lián)網時代，隱私信息的保護一直是用戶擔憂的問題，尤其

5、是在社交網絡出現(xiàn)以后，使得用戶在不同地點和時間產生了越來越多的數據足跡。這種數據在一定程度的關聯(lián)和積累，將用戶在不同地點的行為聚集起來，用戶的隱私信息能夠被輕易的暴露出來，隱私信息泄露風險大大增加。2.數據公開與隱私保護之間存在的矛盾。若是為了保護隱私而將數據隱藏起來，數據就無法體現(xiàn)其價值。為了更有效的利用數據，需要進行數據公開，包括政府機構和一些企業(yè)在內，都可以通過這些公開的數據知悉社會的需求和狀況，從而更好的利用大數據技術，例如阿里巴巴可以利用公開的數據了解客戶的需求，在線上進行更有針對性的產品推薦和銷售。大數據時代下，怎樣在保護隱私的前提下進行有效的數據分析和挖掘，是很難把握的。3.數據具備的動態(tài)性。之前的隱私保護多針對于靜態(tài)數據集，而在大數據時代下，數據類型的變化除了要有新的數據處理技術外，還給隱私保護帶來了巨大的挑戰(zhàn)。三、結語大數據時代的到來是技術發(fā)展的必然趨勢，利用大數據技術能夠獲得巨大的價值，為人們提供便利。但它也是一把雙刃劍。大數據環(huán)境下，數據量和數據類型與以往不一樣