Mr.hubbi

大家好，本文將圍繞一個有趣的事情展開說明，一個有趣的事情是一個很多人都想弄明白的事情，想搞清楚一個有趣的事情需要先了解以下幾個事情。

哪種數據倉庫架構最成功？

”的爭論一直沒有休止，這個問題同時也是企業在建立DW時需要決策的關鍵問題。Bill Inmon的集線器架構/企業信息工廠架構（Hub and Spoke / CIF – Corporate Information Factory）與Ralph Kimball的數據集市/數據倉庫總線架構（Data Mart Bus Architecture/Data Warehouse Bus Architecture）則是DW架構的爭論焦點。但是，這些爭論一直無法形成統一的結論。到底哪種DW架構最好，不同的BI/雹陸DW從業者在不同的項目中，面對不同企業的不同情況時，往往持有不同的說法。2005 年，Thilini Ariyachandra 與Hugh Watson針對DW架構做了一個深入的調查，調查題目為“哪種數據倉庫最成功？”，受訪者由454位曾在各種不同規模的企業（絕大多數是美國企業）中參與了DW規劃與實施的人員組成，受訪者根據DW應用實際情況及經驗體會做出回答。為了合理設計調查問卷，在調查問卷中合理設置調查對象（參與調查的DW架正慶構）和評判標準（影舉肆握響DW架構選擇的因素及判斷DW架構成功的因素等）等內容，Watson和Ariyachandra邀請了20位專家組成專家組設計調查問卷及判斷標準等，這20位專家包括了DW領域的兩位先驅——赫赫有名的Bill Inmon和Ralph Kimball。因此我們可以認為這份調查的結果是權威可信的。

小螺號歌詞

歌曲：《小螺號》

演? ? 唱：程琳

作? ? 詞：付林

編? ? 曲：付林

歌詞：

小螺號，嘀嘀嘀吹

海鷗聽了搜老展翅飛。

小螺號，嘀嘀嘀吹

浪花聽了笑微微。

小螺號，嘀嘀嘀吹

聲聲喚船歸啰。

小螺號，嘀嘀嘀吹

阿爸聽了快快回啰。

茫茫的海灘，藍藍的海水。

吹起了螺號，心里美吔。

擴展資料

創作背景

1980年，流行歌曲開始傳入，鄧麗君的歌喉影響了一代人，付林從流行歌曲中發現了一片嶄新的天地，他為當時年僅13歲的程琳一氣寫下了14首歌曲，天天騎著自行車馱著程琳趕往錄音棚。其中，《小螺號》的名聲最響亮，“小螺號滴滴滴吹，海鷗聽了展翅飛，小螺號滴滴滴吹，浪花聽了笑微微?！?/p>

音樂是流行歌曲的寫法，詞句也很細握漏含膩，而且還是付林的作曲成名作，詞曲和編配都由他一人承擔。1982年，付林為程琳又寫了一首名作《媽媽的吻》，這次則由谷建芬作曲，“在那遙遠的小山村小呀小山村，我那親愛的媽媽已白發鬢鬢，過去的時光難忘懷難忘懷，媽媽曾給我多少吻多少吻?！辟|樸親切的歌詞表達了鄉村母子間的真摯情感，一時間膾炙人口。

“我有兄弟姊妹10個，母親為了我們辛勤操勞，可每當臘月十五我生日那天，她依然記得那么清楚，5分錢塞進我的掌心里，讓我出去買個白面饃。這可是那個年代的‘段笑蛋糕’啊?！?013年慈母歸西時，付林淚流滿面：“到頭來我才發現，其實我欠了給媽媽的一個吻，而且欠得太久太久！”

hobby怎么讀

（一）、hobby：英式發音為 [?h?bi] ? 美式發音為 [?hɑ:bi] ?。

（二）、hobby是一個名詞。

（三）、hobby的具體解釋有以下幾種：

1、業余愛好，嗜好，癖好，興趣，業余消遣；

2、小隼，燕隼；

3、竹馬，木馬；

4、小馬；

5、一種體型中等的壯馬。

（四）、例句

1、His hobby is entomology.。

他愛好昆蟲學。

2、Angling is his main hobby.。

釣魚是他的主要愛好。

3、Some people like horseback ride, but I prefer golf as a hobby.。

一些人喜歡馬術，但是我寧愿把打高爾夫球作為一種業仔晌緩余愛好。

擴展資料：

hobby的詞匯搭配

1、動詞+hobby

have a hobby 有業余嗜好。

have no hobby 沒有什么愛好。

indulge one's hobby 滿足自謹哪己的嗜好。

mount a hobby 反復談自己喜愛的話題。

pursue a hobby 從事某一業余愛好。

2、形容詞+hobby

absurd hobby 荒唐的嗜好。

chief hobby 主要的業余愛好。

curious hobby 古怪的癖念模好。

educational hobby 有教育意義的愛好。

expensive hobby 花錢多的嗜好。

3、hobby+介詞

hobby for research in history 研究歷史的愛好。

hobby of collecting stamps 愛好集郵。

參考資料：hobby—百度百科。

什么是數據倉庫，數據倉庫在哪里保存數據。BI項目需要用到哪些技術

數據倉庫還是數據庫,數據還是在數據庫里放著呢,不過是按照數據倉庫的理念去設豎漏扒計架構和開發數據庫.BI項目余昌主要運用搜告數據倉庫,OLAP,和數據挖掘的技術,細分下來又有主流數據庫的開發,如oracle,db2,sqlserver, java,cognos,bo,biee,sas,spss,clementine,weka等等。

怎樣的架構設計才是真正的數據倉庫架構

一直想整理一下這塊內容，既然是漫談，就想起什么說什么吧。我一直是在互聯網行業，就以互聯網行業來說。

先大概列一下互聯網行業數據倉庫、數據平臺的用途：

整合公司所有業務數據，建立統一的數據中心；

提供各種報表，有給高層的，有給各個業務的；

為網站運營提供運營上的數據支持，就是通過數據，讓運營及時了解網站和產品的運營效果；

為各個業務提供線上或線下的數據支持，成為公司統一的數據交換與提供平臺；

分析用戶行為數據，通過數據挖掘來降低投入成本，提高投入效果；比如廣告定向精準投放、用戶個性化推薦等；

開發數據產品，直接或間接為公司盈利；

建設開放數據平臺，開放公司數據；

。。。。。。

上面列出的內容看上去和傳統行業數據倉庫用途差不多，并且都要求數據倉庫/數據平臺有很好的穩定性、可靠性；但在互聯網行業，除了數據量大之外，越來越多的業務要求時效性，甚至很多是要求實時的 ，另外，互聯網行業的業務變化非?？?，不可能像傳統行業一樣，可以使用自頂向下的方法建立數據倉庫，一勞永逸，它要求新的業務很快能融入數據倉庫中來，老的下線的業務，能很方便的從現有的數據倉庫中下線；

其實，互聯網行業的數據倉庫就是所謂的敏捷數據倉庫，不但要求能快速的響應數據，也要求能快速的響應業務；

建設敏捷數據倉庫，除了對架構技術上的要求之外，還有一個很重要的方面，就是數據建雹春皮模，如果一上來就想著建立一套能兼容所有數據和業務的數據模型，那就又回到傳統數據倉庫的建設上了，很難滿足對業務變化的快速響應。應對這種情況，一般是先將核心的持久化的業務進行深度建模（比如：基于網站日志建立的網站統計分析模型和用戶瀏覽軌跡模型；基于公司核心用戶數據建立的用戶模型），其它的業務一般都采用維度+寬表的方式來建立數據模型。這塊是后話。

整體架構下面的圖是我們目前使用的數據平臺架構圖，其實大多公司應該都差不多：

請點擊輸入圖片描述

請點擊輸入圖片描述

邏輯上，一般都有數據采集層、數據存儲與分析層、數據共享層、數據應用層?？赡芙蟹ㄓ兴煌?，本質上的角色都大同小異。

我們從下往上看：

數據采集數據采集層的任務就是把數據從各種數據源中采集和存儲到數據存儲上，期間有可能會做一些簡單的清洗。

數據源的種類比較多：

網站日志：

作為互聯網行業，網站日志占的份額最大，網站日志存儲在多臺網站日志服務器上，

一般是在每臺網站日志服務器上部署flume agent，實時的收集網站日志并存儲到HDFS上；

業務數據庫：

業務數據庫的種類也是多種多樣，有Mysql、Oracle、SqlServer等，這時候，我們迫切的需要一種能從各種數據庫中將數據同步到HDFS上的工具，Sqoop是一種，但是Sqoop太過繁重，而且不管數據量大小，都需要啟動MapReduce來執行，而且需要Hadoop集群的每臺機器都能訪問業務數據庫；應對此場景，淘寶開源的DataX，是一個很好的解決方案（可參考文章 《異構數據源海量數據交換工具-Taobao DataX 下載和使用》），有資源的話，可以基于DataX之上做二次開發，就能非常好的解決，我們目前使用的DataHub也是。

當然，Flume通過配置與開發，也可以實時的從數據庫中同步數據到HDFS。

來自于Ftp/Http的數據源：

有可能一些合作伙伴提供的數據，需要通過Ftp/Http等定時獲取，DataX也可以滿足該需求；

其他數據源：

比如一些手工錄入的數據，只需要提供一個接口或小程序，即可完成；

數據存儲與分析毋庸置疑，HDFS是大數據環境下數據倉庫/數據平臺最完美的數據存儲解決方案。

離線數據分析與計算，也就是對實時性要求不高的部分，在我看來，Hive還是首當其沖的選擇，豐富的數據類型、內置函數源差；壓縮比非常高的ORC文件存儲格式；非常方便的SQL支持，使得Hive在基于結構化數據上的統計分析遠遠比MapReduce要高效的多，一句SQL可以完成的需求，開發MR可能需要上百行代碼；

當然，使用Hadoop框架自然而然也提供了MapReduce接口，如果真的很樂意開發Java，或者對SQL不熟，那么也可以使用MapReduce來做分析與計算；Spark是這兩年非?；鸬?，經過實踐，它的性能的確比MapReduce要好很多，而且和Hive、森晌Yarn結合的越來越好，因此，必須支持使用Spark和SparkSQL來做分析和計算。因為已經有Hadoop Yarn，使用Spark其實是非常容易的，不用單獨部署Spark集群，關于Spark On Yarn的相關文章，可參考：《Spark On Yarn系列文章》

實時計算部分，后面單獨說。

數據共享這里的數據共享，其實指的是前面數據分析與計算后的結果存放的地方，其實就是關系型數據庫和NOSQL數據庫；

前面使用Hive、MR、Spark、SparkSQL分析和計算的結果，還是在HDFS上，但大多業務和應用不可能直接從HDFS上獲取數據，那么就需要一個數據共享的地方，使得各業務和產品能方便的獲取數據；?和數據采集層到HDFS剛好相反，這里需要一個從HDFS將數據同步至其他目標數據源的工具，同樣，DataX也可以滿足。

另外，一些實時計算的結果數據可能由實時計算模塊直接寫入數據共享。

數據應用

業務產品

業務產品所使用的數據，已經存在于數據共享層，他們直接從數據共享層訪問即可；

報表

同業務產品，報表所使用的數據，一般也是已經統計匯總好的，存放于數據共享層；

即席查詢

即席查詢的用戶有很多，有可能是數據開發人員、網站和產品運營人員、數據分析人員、甚至是部門老大，他們都有即席查詢數據的需求；

這種即席查詢通常是現有的報表和數據共享層的數據并不能滿足他們的需求，需要從數據存儲層直接查詢。

即席查詢一般是通過SQL完成，最大的難度在于響應速度上，使用Hive有點慢，目前我的解決方案是SparkSQL，它的響應速度較Hive快很多，而且能很好的與Hive兼容。

當然，你也可以使用Impala，如果不在乎平臺中再多一個框架的話。

OLAP

目前，很多的OLAP工具不能很好的支持從HDFS上直接獲取數據，都是通過將需要的數據同步到關系型數據庫中做OLAP，但如果數據量巨大的話，關系型數據庫顯然不行；

這時候，需要做相應的開發，從HDFS或者HBase中獲取數據，完成OLAP的功能；

比如：根據用戶在界面上選擇的不定的維度和指標，通過開發接口，從HBase中獲取數據來展示。

其它數據接口

這種接口有通用的，有定制的。比如：一個從Redis中獲取用戶屬性的接口是通用的，所有的業務都可以調用這個接口來獲取用戶屬性。

實時計算現在業務對數據倉庫實時性的需求越來越多，比如：實時的了解網站的整體流量；實時的獲取一個廣告的曝光和點擊；在海量數據下，依靠傳統數據庫和傳統實現方法基本完成不了，需要的是一種分布式的、高吞吐量的、延時低的、高可靠的實時計算框架；Storm在這塊是比較成熟了，但我選擇Spark Streaming，原因很簡單，不想多引入一個框架到平臺中，另外，Spark Streaming比Storm延時性高那么一點點，那對于我們的需要可以忽略。

?我們目前使用Spark Streaming實現了實時的網站流量統計、實時的廣告效果統計兩塊功能。

做法也很簡單，由Flume在前端日志服務器上收集網站日志和廣告日志，實時的發送給Spark Streaming，由Spark Streaming完成統計，將數據存儲至Redis，業務通過訪問Redis實時獲取。

任務調度與監控在數據倉庫/數據平臺中，有各種各樣非常多的程序和任務，比如：數據采集任務、數據同步任務、數據分析任務等；

這些任務除了定時調度，還存在非常復雜的任務依賴關系，比如：數據分析任務必須等相應的數據采集任務完成后才能開始；數據同步任務需要等數據分析任務完成后才能開始；?這就需要一個非常完善的任務調度與監控系統，它作為數據倉庫/數據平臺的中樞，負責調度和監控所有任務的分配與運行。

前面有寫過文章，《大數據平臺中的任務調度與監控》,這里不再累贅。

總結在我看來架構并不是技術越多越新越好，而是在可以滿足需求的情況下，越簡單越穩定越好。目前在我們的數據平臺中，開發更多的是關注業務，而不是技術，他們把業務和需求搞清楚了，基本上只需要做簡單的SQL開發，然后配置到調度系統就可以了，如果任務異常，會收到告警。這樣，可以使更多的資源專注于業務之上。

哪個BI大數據分析軟件公司更值得關注？

星環科技

星環信息科技主要從事大數據時代核心平臺數據庫軟件的研發與服務，被Gartner列為國際主流Hadoop發行版廠商。其產品Transwarp Data Hub提供高速SQL引擎Transwarp Inceptor, NoSQL搜索引擎Transwarp Hyperbase、流處理引擎Transwarp Stream和數據挖掘組件Transwarp Discover。

帆軟軟件

帆軟軟件由報表軟件FineReport起家，目前已成為報表領域的權威者，擁有10年企業數據分析的行業經驗。后發布的商業智能自助式BI工具FineBI，提供包括Hadoop、分布式畝棗數據庫、多維數據庫的大數據可視化分析；提供PC端、移動端、大屏的可視化方案，廣泛應用于銀行、電商、地產、醫藥、制造、電信、制造、化工等行告游業，擁有成熟的行業化解決方案。

數據可視化類

數字冰雹

數字冰雹主營大數據可視化業務，提供集設計、程序開發、硬件集成為一體的解決方案，廣泛應用于航天戰場、智慧城市、網絡安全、企業管理、工業監控等領域。

海云數據

海云數據的產品——圖易能夠集成用戶內部系統大量結構化、非結構化數據，在真實的數據源上，將行業大數據進行多維度的可視分析。目前主要應用于公安、航空、快消、制造、金融、醫療、信息安全等領域。

星圖數據

星圖數據是互聯網大數據服務公司，涉及線上零售、線上娛樂、線上教育等領域?；诜植际酱髷祿@取與存儲系統進行大數據處理及分析，具有自有的大數據分析體系和云計算處理技術。

用戶行為/精準營銷分析類

大數據技術使襪耐銷得用戶在互聯網的行為，得到精準定位，從而細化營銷方案、快速迭代產品。這方面的廠商有GrowingIO、神策數據等。

GrowingIO

GrowingIO是基于互聯網的用戶行為數據分析產品，具有無埋點的數據采集技術，可以通過網頁或APP的瀏覽軌跡、點擊記錄和鼠標滑動軌跡等行為數據，進行實時的用戶行為數據分析，用于優化產品體驗，實現精益化運營。

神策數據

與GrowingIO類似，也是基于用戶網絡行為，采集數據進行分析。技術上提供開放的查詢 API 和完整的 SQL 接口，同時與 MapReduce 和 Spark 等計算引擎無縫融合，隨時以最高效的方式來訪問干凈、規范的數據。

分析服務類

提供輿情分析的有百度統計、品友互動、Talking data、友盟、中科數據等等。

百度統計

百度統計是專業的網站流量分析工具，和GA類似，提供免費的流量分析、來源分析、網站分析等多種統計分析服務，能夠告訴用戶訪客是如何找到并瀏覽用戶的網站，在網站上做了些什么，以此來改善訪客在用戶的網站上的使用體驗。

Talking Data

TalkingData是獨立的第三方移動數據服務品牌。其產品及服務涵蓋移動應用數據統計、移動廣告監測、移動游戲運營、公共數據查詢、綜合數據管理等多款極具針對性的產品及服務。在銀行、互聯網、電商行業有廣泛的數據服務應用。

友盟+

第三方全域大數據服務提供商，通過全面覆蓋PC、手機、傳感器、無線路由器等多種設備數據，打造全域數據平臺。提供全業務鏈數據應用解決方案，包括基礎統計、運營分析、數據決策和數據業務等，幫助企業實現數據化運營和管理。

文章來源：http://www.powerhousepowers.com/Mr.hubbi.html