數(shù)據(jù)挖掘方面的(數(shù)據(jù)挖掘需要學習哪些知識)

1.數(shù)據(jù)挖掘需要學習哪些知識

1.統(tǒng)計知識

在做數(shù)據(jù)分析，統(tǒng)計的知識肯定是需要的，Excel、SPSS、R等是需要掌握的基本技能。如果我們做數(shù)據(jù)挖掘的話，就要重視數(shù)學知識，數(shù)據(jù)挖掘要從海量數(shù)據(jù)中發(fā)現(xiàn)規(guī)律，這就需要一定的數(shù)學知識，最基本的比如線性代數(shù)、高等代數(shù)、凸優(yōu)化、概率論等。

2.概率知識

而樸素貝葉斯算法需要概率方面的知識，SKM算法需要高等代數(shù)或者區(qū)間論方面的知識。當然，我們可以直接套模型，R、Python這些工具有現(xiàn)成的算法包，可以直接套用。但如果我們想深入學習這些算法，最好去學習一些數(shù)學知識，也會讓我們以后的路走得更順暢。我們經(jīng)常會用到的語言包括Python、Java、C或者C++，我自己用Python或者Java比較多。有時用MapReduce寫程序，再用Hadoop或者Hyp來處理數(shù)據(jù)，如果用Python的話會和Spark相結(jié)合。

3.數(shù)據(jù)挖掘的數(shù)據(jù)類型

那么可以挖掘的數(shù)據(jù)類型都有什么呢？關(guān)系數(shù)據(jù)庫、數(shù)據(jù)倉庫、事務(wù)數(shù)據(jù)庫、空間數(shù)據(jù)庫、時間序列數(shù)據(jù)庫、文本數(shù)據(jù)庫和多媒體數(shù)據(jù)庫。關(guān)系數(shù)據(jù)庫就是表的集合，每個表都賦予一個唯一的名字。每個表包含一組屬性列或字段，并通常存放大量元組，比如記錄或行。關(guān)系中的每個元組代表一個被唯一關(guān)鍵字標識的對象，并被一組屬性值描述。

4.數(shù)據(jù)倉庫

什么是數(shù)據(jù)倉庫呢？數(shù)據(jù)倉庫就是通過數(shù)據(jù)清理、數(shù)據(jù)變換、數(shù)據(jù)集成、數(shù)據(jù)裝入和定期數(shù)據(jù)刷新構(gòu)造 。數(shù)據(jù)挖掘的工作內(nèi)容是什么呢？數(shù)據(jù)分析更偏向統(tǒng)計分析，出圖，作報告比較多，做一些展示。數(shù)據(jù)挖掘更偏向于建模型。比如，我們做一個電商的數(shù)據(jù)分析。萬達電商的數(shù)據(jù)非常大，具體要做什么需要項目組自己來定。電商數(shù)據(jù)能給我們的業(yè)務(wù)什么樣的推進，我們從這一點入手去思考。我們從中挑出一部分進行用戶分群。

關(guān)于數(shù)據(jù)挖掘需要學習哪些知識，青藤小編就和您分享到這里了。如果您對大數(shù)據(jù)工程有濃厚的興趣，希望這篇文章可以為您提供幫助。如果您還想了解更多關(guān)于數(shù)據(jù)分析師、大數(shù)據(jù)工程師的技巧及素材等內(nèi)容，可以點擊本站的其他文章進行學習。

2.數(shù)據(jù)挖掘主要涉及到哪些方面的知識

1. 工程能力

( 1 )編程基礎(chǔ)：需要掌握一大一小兩門語言，大的指 C++ 或者 Java ，小的指Python 或者 shell 腳本；需要掌握基本的數(shù)據(jù)庫語言；

建議：MySQL + python + C++ ；語言只是一種工具，看看語法就好；

推薦書籍：《C++ primer plus 》

( 2 )開發(fā)平臺： Linux ;

建議：掌握常見的命令，掌握 Linux 下的源碼編譯原理；

推薦書籍：《Linux 私房菜》

( 3 )數(shù)據(jù)結(jié)構(gòu)與算法分析基礎(chǔ)：掌握常見的數(shù)據(jù)結(jié)構(gòu)以及操作（線性表，隊，列，字符串，樹，圖等），掌握常見的計算機算法（排序算法，查找算法，動態(tài)規(guī)劃，遞歸等）；

建議：多敲代碼，多刷題；

推薦書籍：《大話數(shù)據(jù)結(jié)構(gòu)》《劍指 offer 》

( 4 )海量數(shù)據(jù)處理平臺： Hadoop ( mr 計算模型，java 開發(fā))或者 Spark ( rdd 計算模型， scala開發(fā))，重點推薦后者；

建議：主要是會使用，有精力的話可以看看源碼了解集群調(diào)度機制之類的；

推薦書籍：《大數(shù)據(jù) spark 企業(yè)級實戰(zhàn)》

2. 算法能力

( 1 )數(shù)學基礎(chǔ)：概率論，數(shù)理統(tǒng)計，線性代數(shù)，隨機過程，最優(yōu)化理論

建議：這些是必須要了解的，即使沒法做到基礎(chǔ)扎實，起碼也要掌握每門學科的理論體系，涉及到相應(yīng)知識點時通過查閱資料可以做到無障礙理解；

( 2 )機器學習 / 深度學習：掌握 常見的機器學習模型（線性回歸，邏輯回歸， SVM ，感知機；決策樹，隨機森林， GBDT , XGBoost ；貝葉斯， KNN , K-means , EM 等）；掌握常見的機器學習理論（過擬合問題，交叉驗證問題，模型選擇問題，模型融合問題等）；掌握常見的深度學習模型（ CNN ,RNN 等）；

建議：這里的掌握指的是能夠熟悉推導公式并能知道模型的適用場景；

推薦書籍：《統(tǒng)計學習方法》《機器學習》《機器學習實戰(zhàn)》《 UFLDL 》

( 3 )自然語言處理：掌握常見的方法（ tf-idf , word2vec ,LDA ）;

3. 業(yè)務(wù)經(jīng)驗

( 1 )了解推薦以及計算廣告相關(guān)知識；

推薦書籍：《推薦系統(tǒng)實踐》《計算廣告》

( 2 )通過參加數(shù)據(jù)挖掘競賽熟悉相關(guān)業(yè)務(wù)場景，常見的比賽有 Kaggle ，阿里天池， datacastle 等。

3.要學數(shù)據(jù)挖掘需要哪些基礎(chǔ)

個人感覺數(shù)據(jù)挖掘是一個比較大的概念，可以理解為：

數(shù)據(jù)挖掘=業(yè)務(wù)知識+自然語言處理技術(shù)（NLP）+計算機視覺技術(shù)（CV）+機器學習/深度學習（ML/DL）

(1)其中業(yè)務(wù)知識具體指的是個性化推薦，計算廣告，搜索，互聯(lián)網(wǎng)金融等；NLP,CV分別是處理文本，圖像視頻數(shù)據(jù)的領(lǐng)域技術(shù)，可以理解為是將非結(jié)構(gòu)化數(shù)據(jù)提取轉(zhuǎn)換成結(jié)構(gòu)化數(shù)據(jù)；最后的ml/dl技術(shù)則是屬于模型學習理論；

(2)在選擇崗位時，各個公司都沒有一套標準的稱呼，但是所做的事情無非2個大方向，一種是主要鉆研某個領(lǐng)域的技術(shù)，比如自然語言處理工程師，計算機視覺工程師，機器學習工程師等；一種是將各種領(lǐng)域技術(shù)應(yīng)用到業(yè)務(wù)場景中去解決業(yè)務(wù)需求，比如數(shù)據(jù)挖掘工程師，推薦系統(tǒng)工程師等；具體的稱呼不重要，重要的是平時的工作內(nèi)容；

PS：在互聯(lián)網(wǎng)行業(yè)，數(shù)據(jù)挖掘相關(guān)技術(shù)應(yīng)用比較成功的主要是推薦以及計算廣告領(lǐng)域，而其中涉及到的數(shù)據(jù)主要也是文本，所以NLP技術(shù)相對來講比較重要，至于CV技術(shù)主要還是在人工智能領(lǐng)域（無人車，人臉識別等）應(yīng)用較多，本人了解有限，相關(guān)的描述會較少；

3.根據(jù)之前的分析，也可以看到該崗位所需要的3種基本能力分別是業(yè)務(wù)經(jīng)驗，算法能力與工程能力；

入門

1.工程能力

(1)編程基礎(chǔ)：需要掌握一大一小兩門語言，大的指C++或者JAVA，小的指python或者shell腳本；需要掌握基本的數(shù)據(jù)庫語言；

建議：MySQL + python + C++；語言只是一種工具，看看語法就好；

(2)開發(fā)平臺：Linux;

建議：掌握常見的命令，掌握Linux下的源碼編譯原理；

(3)數(shù)據(jù)結(jié)構(gòu)與算法分析基礎(chǔ)：掌握常見的數(shù)據(jù)結(jié)構(gòu)以及操作（線性表，隊，列，字符串，樹，圖等），掌握常見的計算機算法（排序算法，查找算法，動態(tài)規(guī)劃，遞歸等）；

建議：多敲代碼，多上OJ平臺刷題；

(4)海量數(shù)據(jù)處理平臺：hadoop(mr計算模型，java開發(fā))或者spark(rdd計算模型，scala開發(fā))，重點推薦后者；

建議：主要是會使用，有精力的話可以看看源碼了解集群調(diào)度機制之類的；

2.算法能力

(1)數(shù)學基礎(chǔ)：概率論，數(shù)理統(tǒng)計，線性代數(shù)，隨機過程，最優(yōu)化理論

建議：這些是必須要了解的，即使沒法做到基礎(chǔ)扎實，起碼也要掌握每門學科的理論體系，涉及到相應(yīng)知識點時通過查閱資料可以做到無障礙理解；

(2)機器學習/深度學習：掌握常見的機器學習模型（線性回歸，邏輯回歸，SVM，感知機；決策樹，隨機森林，GBDT,XGBoost；貝葉斯，KNN,K-means,EM等）；掌握常見的機器學習理論（過擬合問題，交叉驗證問題，模型選擇問題，模型融合問題等）；掌握常見的深度學習模型（CNN,RNN等）；

建議：這里的掌握指的是能夠熟悉推導公式并能知道模型的適用場景；

(3)自然語言處理：掌握常見的方法（tf-idf,word2vec,LDA）;

3.業(yè)務(wù)經(jīng)驗

(1)了解推薦以及計算廣告相關(guān)知識；

(2)通過參加數(shù)據(jù)挖掘競賽熟悉相關(guān)業(yè)務(wù)場景，常見的比賽有Kaggle，阿里天池，datacastle等；

PS：以上都是一些入門級別的介紹，在長期的學習中，應(yīng)該多看頂會paper，多讀開源代碼，多學習優(yōu)秀解決方案；

4.數(shù)據(jù)挖掘有關(guān)知識

數(shù)據(jù)挖掘，在人工智能領(lǐng)域，習慣上又稱為數(shù)據(jù)庫中知識發(fā)現(xiàn)（Knowledge Discovery in Database, KDD）， 也有人把數(shù)據(jù)挖掘視為數(shù)據(jù)庫中知識發(fā)現(xiàn)過程的一個基本步驟。

知識發(fā)現(xiàn)過程以下三個階段組成：（1）數(shù)據(jù)準備，（2）數(shù)據(jù)挖掘，（3）結(jié)果表達和解釋。數(shù)據(jù)挖掘可以與用戶或知識庫交互。

并非所有的信息發(fā)現(xiàn)任務(wù)都被視為數(shù)據(jù)挖掘。例如，使用數(shù)據(jù)庫管理系統(tǒng)查找個別的記錄，或通過因特網(wǎng)的搜索引擎查找特定的Web頁面，則是信息檢索（information retrieval）領(lǐng)域的任務(wù)。

雖然這些任務(wù)是重要的，可能涉及使用復雜的算法和數(shù)據(jù)結(jié)構(gòu)，但是它們主要依賴傳統(tǒng)的計算機科學技術(shù)和數(shù)據(jù)的明顯特征來創(chuàng)建索引結(jié)構(gòu)，從而有效地組織和檢索信息。盡管如此，數(shù)據(jù)挖掘技術(shù)也已用來增強信息檢索系統(tǒng)的能力。

5.數(shù)據(jù)挖掘有關(guān)知識

數(shù)據(jù)挖掘，在人工智能領(lǐng)域，習慣上又稱為數(shù)據(jù)庫中知識發(fā)現(xiàn)（Knowledge Discovery in Database, KDD）， 也有人把數(shù)據(jù)挖掘視為數(shù)據(jù)庫中知識發(fā)現(xiàn)過程的一個基本步驟。

知識發(fā)現(xiàn)過程以下三個階段組成：（1）數(shù)據(jù)準備，（2）數(shù)據(jù)挖掘，（3）結(jié)果表達和解釋。數(shù)據(jù)挖掘可以與用戶或知識庫交互。

并非所有的信息發(fā)現(xiàn)任務(wù)都被視為數(shù)據(jù)挖掘。例如，使用數(shù)據(jù)庫管理系統(tǒng)查找個別的記錄，或通過因特網(wǎng)的搜索引擎查找特定的Web頁面，則是信息檢索（information retrieval）領(lǐng)域的任務(wù)。

雖然這些任務(wù)是重要的，可能涉及使用復雜的算法和數(shù)據(jù)結(jié)構(gòu)，但是它們主要依賴傳統(tǒng)的計算機科學技術(shù)和數(shù)據(jù)的明顯特征來創(chuàng)建索引結(jié)構(gòu)，從而有效地組織和檢索信息。盡管如此，數(shù)據(jù)挖掘技術(shù)也已用來增強信息檢索系統(tǒng)的能力。

6.數(shù)據(jù)挖掘的一些數(shù)學和挖掘方面的知識如何學

把數(shù)學看懂才是王道，你是做軟件開發(fā)的，干嘛用R語言，R語言是統(tǒng)計語言，還不如用python。

真正的數(shù)據(jù)挖掘不是畫幾張圖那么簡單?？础稊?shù)據(jù)挖掘?qū)д摗?，然后用C/C++/Java/Python等這些語言編程實現(xiàn)。

理解了算法然后去實現(xiàn)。經(jīng)過一段時間你理解了算法之后再去想有什么地方可以運用的，就是你有什么需求，數(shù)據(jù)是用來發(fā)現(xiàn)知識的，而知識可以幫助企業(yè)獲得經(jīng)濟效益。

因此，如果你數(shù)學不好，在看《數(shù)據(jù)挖掘?qū)д摗返臅r候可以看看統(tǒng)計學的東西，結(jié)合起來。經(jīng)過一年半載的學習之后，你可以看更高階的比如統(tǒng)計學習理論之類的，學著學著你就上路了。

7.數(shù)據(jù)挖掘的技術(shù)基礎(chǔ)是什么

1. 統(tǒng)計學統(tǒng)計學雖然是一門“古老的”學科，但它依然是最基本的數(shù)據(jù)挖掘技術(shù)，特別是多元統(tǒng)計分析，如判別分析、主成分分析、因子分析、相關(guān)分析、多元回歸分析等。

2. 聚類分析和模式識別聚類分析主要是根據(jù)事物的特征對其進行聚類或分類，即所謂物以類聚，以期從中發(fā)現(xiàn)規(guī)律和典型模式。這類技術(shù)是數(shù)據(jù)挖掘的最重要的技術(shù)之一。

除傳統(tǒng)的基于多元統(tǒng)計分析的聚類方法外，近些年來模糊聚類和神經(jīng)網(wǎng)絡(luò)聚類方法也有了長足的發(fā)展。3. 決策樹分類技術(shù)決策樹分類是根據(jù)不同的重要特征，以樹型結(jié)構(gòu)表示分類或決策集合，從而產(chǎn)生規(guī)則和發(fā)現(xiàn)規(guī)律。

4. 人工神經(jīng)網(wǎng)絡(luò)和遺傳基因算法人工神經(jīng)網(wǎng)絡(luò)是一個迅速發(fā)展的前沿研究領(lǐng)域，對計算機科學 人工智能、認知科學以及信息技術(shù)等產(chǎn)生了重要而深遠的影響，而它在數(shù)據(jù)挖掘中也扮演著非常重要的角色。人工神經(jīng)網(wǎng)絡(luò)可通過示例學習，形成描述復雜非線性系統(tǒng)的非線性函數(shù)，這實際上是得到了客觀規(guī)律的定量描述，有了這個基礎(chǔ)，預(yù)測的難題就會迎刃而解。

目前在數(shù)據(jù)挖掘中，最常使用的兩種神經(jīng)網(wǎng)絡(luò)是BP網(wǎng)絡(luò)和RBF網(wǎng)絡(luò) 不過，由于人工神經(jīng)網(wǎng)絡(luò)還是一個新興學科，一些重要的理論問題尚未解決。5. 規(guī)則歸納規(guī)則歸納相對來講是數(shù)據(jù)挖掘特有的技術(shù)。

它指的是在大型數(shù)據(jù)庫或數(shù)據(jù)倉庫中搜索和挖掘以往不知道的規(guī)則和規(guī)律，這大致包括以下幾種形式：IF … THEN …6. 可視化技術(shù)可視化技術(shù)是數(shù)據(jù)挖掘不可忽視的輔助技術(shù)。數(shù)據(jù)挖掘通常會涉及較復雜的數(shù)學方法和信息技術(shù)，為了方便用戶理解和使用這類技術(shù)，必須借助圖形、圖象、動畫等手段形象地指導操作、引導挖掘和表達結(jié)果等，否則很難推廣普及數(shù)據(jù)挖掘技術(shù)。