大數(shù)據(jù)擁抱云計(jì)算:讓數(shù)據(jù)升華為智慧
數(shù)據(jù)怎么樣才能對(duì)人有用?人們整天都在討論大數(shù)據(jù),其實(shí)數(shù)據(jù)本身并不是有用的,必須要經(jīng)過一定的處理。例如你每天跑步帶個(gè)手環(huán)收集的也是數(shù)據(jù),網(wǎng)上這么多網(wǎng)站也是數(shù)據(jù),簡(jiǎn)稱為Data,數(shù)據(jù)本身并沒有什么作用,但是數(shù)據(jù)里面包含一些很重要的東西,叫做信息(Information),數(shù)據(jù)雜亂無章,只有經(jīng)過了梳理和清洗,才能夠稱為信息。信息里面包含了很多規(guī)律,我們需要從眾多信息中將規(guī)律總結(jié)出來,才能稱為知識(shí),知識(shí)才能改變命運(yùn)。
信息是很多的,但是很多人看到了信息相當(dāng)于白看,但是有人就能從信息中看到了電商的未來,有人看到了直播的未來,所以人家就牛了,如果沒有從信息中提取出知識(shí),天天只知道刷朋友圈,也只能在如今互聯(lián)網(wǎng)滾滾大潮中做個(gè)看客。有了知識(shí),然后利用這些知識(shí)去應(yīng)用于實(shí)踐,有的人就會(huì)做得非常好,這個(gè)東西叫做智慧Intelligence。有知識(shí)并不一定有智慧,很多學(xué)者很有知識(shí),已經(jīng)發(fā)生的事情可以從各個(gè)角度分析的頭頭是道,但一到實(shí)踐就歇菜,并不能轉(zhuǎn)化成為真正的智慧。而很多的創(chuàng)業(yè)家之所以偉大,就是通過獲得的知識(shí)應(yīng)用于實(shí)踐,最后做成了很大的生意。
1. 數(shù)據(jù)如何升華為智慧
數(shù)據(jù)的處理分五個(gè)步驟,全部完成了才最后才會(huì)升華智慧。
第一個(gè)步驟:數(shù)據(jù)的收集。首先得有數(shù)據(jù),數(shù)據(jù)的收集有兩個(gè)方式,第一個(gè)方式是拿(Pull),專業(yè)點(diǎn)的叫爬取或者抓取,常見的搜索引擎就是這么干的,它把網(wǎng)上的信息都下載到它的數(shù)據(jù)中心,然后被你搜索出來。 比如你去搜索的時(shí)候,返回的是一個(gè)列表,這個(gè)列表為什么會(huì)在搜索引擎的公司里面呢,就是因?yàn)樗堰@個(gè)數(shù)據(jù)都爬下來了,但是你一點(diǎn)鏈接,點(diǎn)出來這個(gè)網(wǎng)站就不在搜索引擎它們公司了。比如說搜狐有個(gè)新聞,你拿百度搜出來,你不點(diǎn)的時(shí)候,那一頁(yè)在百度數(shù)據(jù)中心,一點(diǎn)出來的網(wǎng)頁(yè)就跳轉(zhuǎn)到搜狐的數(shù)據(jù)中心了。另外一個(gè)方式就是推送,有很多終端可以幫我收集數(shù)據(jù),比如說智能手環(huán),可以將你每天跑步的數(shù)據(jù),血壓的數(shù)據(jù),心跳的數(shù)據(jù)都上傳到數(shù)據(jù)中心里面。
第二個(gè)步驟是數(shù)據(jù)的傳輸。常見的會(huì)通過隊(duì)列方式進(jìn)行,數(shù)據(jù)量實(shí)在是太大了,數(shù)據(jù)必須經(jīng)過處理才會(huì)有用,但是系統(tǒng)處理不過來,只好排排隊(duì),一條條地處理。
第三個(gè)步驟是數(shù)據(jù)的存儲(chǔ),F(xiàn)在數(shù)據(jù)就是Money,掌握了數(shù)據(jù)就相當(dāng)于掌握了金錢。要不然你看購(gòu)物網(wǎng)站怎么知道你想買什么呢?就是因?yàn)樗心銡v史的交易信息,然后通過這個(gè)信息分析出你的購(gòu)物習(xí)慣。
第四個(gè)步驟是數(shù)據(jù)的處理和分析。上面存儲(chǔ)的數(shù)據(jù)是原始數(shù)據(jù),原始數(shù)據(jù)多是雜亂的,還有很多垃圾數(shù)據(jù),因而需要清洗和過濾。對(duì)于整理過的數(shù)據(jù),就可以進(jìn)行分析,從而對(duì)數(shù)據(jù)進(jìn)行歸類,或者發(fā)現(xiàn)數(shù)據(jù)之間的相互關(guān)系。比如著名的啤酒和紙尿布的故事,就是通過對(duì)人們的購(gòu)買數(shù)據(jù)進(jìn)行比對(duì)分析,發(fā)現(xiàn)了男人在買尿布的時(shí)候,會(huì)同時(shí)想要購(gòu)買啤酒,這樣就發(fā)現(xiàn)了啤酒和尿布之間的對(duì)應(yīng)關(guān)系,掌握了規(guī)律,然后應(yīng)用到實(shí)踐中,將啤酒和尿布的柜臺(tái)放到一起,這就是一種智慧。
第五個(gè)步驟就是對(duì)于數(shù)據(jù)的檢索和挖掘。檢索就是搜索,俗話說外事不決問谷歌,內(nèi)事不決問百度。兩大搜索引擎都是將分析歸納后的數(shù)據(jù)放入搜索引擎,從而方便人們找到想要的信息。還有一個(gè)就是挖掘,搜索出來的信息還需要從中挖掘出相互的關(guān)系。例如財(cái)經(jīng)檢索,當(dāng)搜索某個(gè)公司股票的時(shí)候,該公司的管理層是不是也應(yīng)該被挖掘出來?如果僅僅搜索出這個(gè)公司的股票漲的特別好,你就去買了,結(jié)果第二天就跌了,這不坑人么?所以通過各種算法挖掘數(shù)據(jù)中的關(guān)系,形成知識(shí)數(shù)據(jù)庫(kù),十分重要
2. 大數(shù)據(jù)擁抱云計(jì)算
數(shù)據(jù)分析是一項(xiàng)很有意思的技術(shù),其功能就是幫我們梳理數(shù)據(jù),存儲(chǔ)信息,并從信息中總結(jié)規(guī)律。當(dāng)數(shù)據(jù)量很小的時(shí)候,幾臺(tái)機(jī)器就能分析并解決問題。但是,慢慢的當(dāng)數(shù)據(jù)量越來越大,大到最強(qiáng)的超級(jí)計(jì)算機(jī)都解決不了問題的時(shí)候,該怎么辦呢?這時(shí)就要聚合多臺(tái)機(jī)器的力量,也就是使用云計(jì)算的力量。
對(duì)于數(shù)據(jù)的收集,以物聯(lián)網(wǎng)為例,外面部署這成千上億的檢測(cè)設(shè)備,將大量的溫度,濕度,PH值,PM2.5等等數(shù)據(jù)統(tǒng)統(tǒng)收集上來,對(duì)于網(wǎng)頁(yè)的搜索引擎來講,需要將整個(gè)互聯(lián)網(wǎng)所有的網(wǎng)頁(yè)都下載下來,這顯然一臺(tái)服務(wù)器做不到,需要多臺(tái)服務(wù)器組成分布式系統(tǒng),每臺(tái)機(jī)器下載一部分,同時(shí)工作,才能在有限的時(shí)間內(nèi),將海量的網(wǎng)頁(yè)下載完畢。
對(duì)于數(shù)據(jù)的傳輸,一個(gè)內(nèi)存里面的隊(duì)列肯定會(huì)被大量的數(shù)據(jù)擠爆,于是就產(chǎn)生了基于存儲(chǔ)系統(tǒng)的分布式隊(duì)列,這樣的隊(duì)列可以多臺(tái)服務(wù)器同時(shí)傳輸,隨你數(shù)據(jù)量多大,只要我的隊(duì)伍足夠多,隊(duì)列足夠粗,就能夠撐得住。
對(duì)于數(shù)據(jù)的存儲(chǔ)也是一樣,一臺(tái)服務(wù)器的文件系統(tǒng)肯定是放不下了,那我們就做一個(gè)很大的分布式文件系統(tǒng)來做這件事情,把多臺(tái)機(jī)器的硬盤打成一塊大的文件系統(tǒng)。
再比如數(shù)據(jù)的分析,可能需要對(duì)大量的數(shù)據(jù)做分類,統(tǒng)計(jì),聚合,一臺(tái)服務(wù)器肯定搞不定,處理幾百年也分析不完,于是就有了分布式計(jì)算的方法,將大量的數(shù)據(jù)分成小份,每臺(tái)服務(wù)器處理一小份,多臺(tái)服務(wù)器并行處理,很快就能算完。例如著名的Terasort對(duì)1個(gè)TB的數(shù)據(jù)排序,相當(dāng)于1024G,如果單機(jī)處理,怎么也要幾個(gè)小時(shí),但是并行處理只需要幾十秒就完成了。
所以說大數(shù)據(jù)平臺(tái),什么叫做大數(shù)據(jù),說白了就是一臺(tái)機(jī)器干不完,大家一起干。隨著數(shù)據(jù)量越來越大,很多公司都需要處理相當(dāng)多的數(shù)據(jù),沒有這么多機(jī)器可怎么辦呢?
說到這里,就想起云計(jì)算的好處了吧,真的是想什么時(shí)候要,就什么時(shí)候要,想要多少就要多少。例如大數(shù)據(jù)分析企業(yè)的財(cái)務(wù)情況,可能一個(gè)月分析一次,如果要把這一百臺(tái)服務(wù)器或者一千臺(tái)服務(wù)器都在那擺著,一個(gè)月用一次吧,非常浪費(fèi)。那能不能需要計(jì)算的時(shí)候,把這一千臺(tái)服務(wù)器拿出來用,然后不用的時(shí)候,這一千臺(tái)機(jī)器可以去干別的事情。誰能做這個(gè)事兒呢?只有云計(jì)算服務(wù)商(比如文中提到的易邁云),能夠?yàn)榇髷?shù)據(jù)的運(yùn)算提供資源層面的靈活性。而云計(jì)算服務(wù)商也會(huì)部署大數(shù)據(jù)放到它的PaaS平臺(tái)上,作為一個(gè)非常重要的通用應(yīng)用。因?yàn)榇髷?shù)據(jù)平臺(tái)能夠使得多臺(tái)機(jī)器一起干一個(gè)事兒,這個(gè)東西不是一般人或團(tuán)隊(duì)能開發(fā)出來的,怎么也得雇個(gè)幾十上百號(hào)專業(yè)人才能把這個(gè)玩起來,所以說就像數(shù)據(jù)庫(kù)一樣,其實(shí)還是需要有一幫專業(yè)的人來玩這個(gè)東西,F(xiàn)在公有云服務(wù)商(像易邁云)就提出了相應(yīng)的大數(shù)據(jù)解決方案了,一個(gè)小公司需要大數(shù)據(jù)平臺(tái)的時(shí)候,不需要采購(gòu)一千臺(tái)云主機(jī),只要到易邁云的官網(wǎng)上一點(diǎn),這一千臺(tái)機(jī)器都出來了,并且上面已經(jīng)部署好了的大數(shù)據(jù)平臺(tái),只要把數(shù)據(jù)放進(jìn)去算就可以了。
所以說,云計(jì)算需要大數(shù)據(jù),大數(shù)據(jù)需要云計(jì)算,兩個(gè)技術(shù)就這樣結(jié)合了。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
- 2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書 | 附獨(dú)家榜單
- EK工業(yè)多聯(lián)加持"國(guó)家級(jí)高新技術(shù)企業(yè)",見證軸承行業(yè)新奇跡
- 全數(shù)會(huì)2024中國(guó)深圳智能制造與機(jī)器人展覽會(huì)|走進(jìn)先臨三維
- 實(shí)地案例:必看,紅外熱成像在LED行業(yè)的應(yīng)用全在這里!
- 速領(lǐng)免費(fèi)門票!一文揭秘2024全數(shù)會(huì)亮點(diǎn):展商名錄、展商新品、同期會(huì)議、演講嘉賓、采購(gòu)名單
最新活動(dòng)更多
-
即日-11.30免費(fèi)預(yù)約申請(qǐng)>>> 燧石技術(shù)-紅外熱成像系列產(chǎn)品試用活動(dòng)
-
11月8日立即預(yù)約>> 筑夢(mèng)啟光 礪行致遠(yuǎn) | 新天激光數(shù)字化產(chǎn)研基地奠基儀式
-
11月20日火熱報(bào)名中>>> 2024 智能家居出海論壇
-
11月22日立即報(bào)名>> 【線上&線下同步會(huì)議】領(lǐng)英 躍遷向新 年度管理者峰會(huì)
-
11月29日立即預(yù)約>> 【上海線下】設(shè)計(jì),易如反掌—Creo 11發(fā)布巡展
-
11月30日立即試用>> 【有獎(jiǎng)試用】愛德克IDEC-九大王牌安全產(chǎn)品
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市