Python數(shù)據(jù)建模及模型優(yōu)化

【課程目標(biāo)】

本課程主要講解如何利用Python進(jìn)行數(shù)據(jù)建模，建立數(shù)學(xué)模型，來擬合業(yè)務(wù)的各個要素之間的關(guān)系，來模擬業(yè)務(wù)的未來發(fā)展和變化。

基于真實的業(yè)務(wù)問題，在數(shù)據(jù)建模的標(biāo)準(zhǔn)過程指導(dǎo)下，從模型選擇到特征工程，從訓(xùn)練模型到算法實現(xiàn)，從模型評估到模型優(yōu)化，再到模型解讀及模型應(yīng)用，帶領(lǐng)大家一步步實現(xiàn)一個回歸預(yù)測模型。

通過本課程的學(xué)習(xí)，達(dá)到如下目的：

1、 掌握數(shù)據(jù)建模的標(biāo)準(zhǔn)流程。

2、 掌握數(shù)據(jù)預(yù)處理常用的方法，包括特征篩選、變量合并等。

3、 掌握回歸模型的原理，以及算法實現(xiàn)。

4、 熟練使用模型的評估指標(biāo)，評估方法，以及過擬合的評估。

5、 掌握模型優(yōu)化的基本措施，學(xué)會欠擬合的解決方法。

6、 學(xué)會過擬合評估，學(xué)會使用有正則項來解決過擬合問題。

7、 熟練使用sklearn庫的常用回歸類。

8、 學(xué)會超參優(yōu)化的常用方法，能夠設(shè)置最優(yōu)超參。

【授課時間】

2-3天時間

（要根據(jù)學(xué)員的實際情況調(diào)整重點內(nèi)容及時間）

【授課對象】

業(yè)務(wù)支持部、數(shù)據(jù)分析部、系統(tǒng)設(shè)計部、系統(tǒng)開發(fā)部、網(wǎng)絡(luò)運維部等相關(guān)技術(shù)人員。

【學(xué)員要求】

1、 每個學(xué)員自備一臺便攜機(必須)。

2、 便攜機中事先安裝好Python 3.9版本及以上。

3、 安裝好Numpy,Pandas,statsmodels,sklearn,scipy等常用庫。

注：講師現(xiàn)場提供分析的數(shù)據(jù)源。

【授課方式】

建模流程+ 案例演練 + 開發(fā)實踐 + 可視化呈現(xiàn)

采用互動式教學(xué)，圍繞業(yè)務(wù)問題，展開數(shù)據(jù)分析過程，全過程演練操作，讓學(xué)員在分析、分享、講授、總結(jié)、自我實踐過程中獲得能力提升。

【課程大綱】

第一部分： 預(yù)測建?；A(chǔ)

1、 數(shù)據(jù)建模六步法

? 選擇模型：基于業(yè)務(wù)選擇恰當(dāng)?shù)臄?shù)據(jù)模型

? 屬性篩選：選擇對目標(biāo)變量有顯著影響的屬性來建模

? 訓(xùn)練模型：采用合適的算法，尋找到最合適的模型參數(shù)

? 評估模型：進(jìn)行評估模型的質(zhì)量，判斷模型是否可用

? 優(yōu)化模型：如果評估結(jié)果不理想，則需要對模型進(jìn)行優(yōu)化

? 應(yīng)用模型：如果評估結(jié)果滿足要求，則可應(yīng)用模型于業(yè)務(wù)場景

2、 數(shù)據(jù)挖掘常用的模型

? 數(shù)值預(yù)測模型：回歸預(yù)測、時序預(yù)測等

? 分類預(yù)測模型：邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)、支持向量機等

? 市場細(xì)分：聚類、RFM、PCA等

? 產(chǎn)品推薦：關(guān)聯(lián)分析、協(xié)同過濾等

? 產(chǎn)品優(yōu)化：回歸、隨機效用等

? 產(chǎn)品定價：定價策略/最優(yōu)定價等

3、 屬性篩選/特征選擇/變量降維

? 基于變量本身特征

? 基于相關(guān)性判斷

? 因子合并（PCA等）

? IV值篩選（評分卡使用）

? 基于信息增益判斷（決策樹使用）

4、 訓(xùn)練模型及實現(xiàn)算法

? 模型原理

? 算法實現(xiàn)

5、 模型評估

? 評估指標(biāo)

? 評估方法

? 過擬合評估

6、 模型優(yōu)化

? 優(yōu)化模型：選擇新模型/修改模型

? 優(yōu)化數(shù)據(jù)：新增顯著自變量

? 優(yōu)化公式：采用新的計算公式

7、 模型應(yīng)用

? 模型解讀

? 模型部署

? 模型應(yīng)用

8、 好模型是優(yōu)化出來的

第二部分： 回歸模型評估

1、 三個基本概念：SST、SSR、SSE

2、 三個方面評估：指標(biāo)、方法、過擬合

3、 擬合程度指標(biāo)

? 簡單判定系數(shù)：

? 調(diào)整判定系數(shù)：

4、 預(yù)測值誤差指標(biāo)

? 平均絕對誤差：MAE

? 根均方差：RMSE

? 平均絕對誤差率：MAPE

5、 信息損失準(zhǔn)則指標(biāo)

? 赤池信息準(zhǔn)則：AIC

? 貝葉斯信息準(zhǔn)則：BIC

? HQ信息準(zhǔn)則：HQIC

6、 評估方法

? 原始評估法

? 留出法（Hold-Out）

? 交叉驗證法（k-fold cross validation）

? 自助采樣法（Bootstrapping）

7、 其它評估

? 過擬合評估：學(xué)習(xí)曲線

? 殘差評估：白噪聲評估

第三部分： 影響因素分析

問題：如何選擇合適的屬性來進(jìn)行建模預(yù)測？如何做特征選擇/特征降維？

1、 屬性篩選/變量降維的常用方法

2、 影響因素分析常用方法

? 相關(guān)分析

? 方差分析

? 卡方檢驗

3、 相關(guān)分析（衡量變量間的線性相關(guān)性）

問題：這兩個屬性是否會相互影響？影響程度大嗎？

? 相關(guān)分析簡介

? 相關(guān)分析的三個種類

2 簡單相關(guān)分析

2 偏相關(guān)分析

? 相關(guān)系數(shù)的三種計算公式

2 Pearson相關(guān)系數(shù)

2 Spearman相關(guān)系數(shù)

2 Kendall相關(guān)系數(shù)

? 相關(guān)分析的假設(shè)檢驗

? 相關(guān)分析的四個基本步驟

演練：體重與腰圍的關(guān)系

演練：營銷費用會影響銷售額嗎

演練：網(wǎng)齡與消費水平的關(guān)系

? 偏相關(guān)分析

2 偏相關(guān)原理：排除不可控因素后的兩變量的相關(guān)性

2 偏相關(guān)系數(shù)的計算公式

2 偏相關(guān)分析的適用場景

4、 方差分析(衡量類別變量與數(shù)據(jù)變量的相關(guān)性)

問題：哪些才是影響銷量的關(guān)鍵因素？主要因素是哪些？次要因素是哪些？

? 方差分析的應(yīng)用場景

? 方差分析原理

? 方差分析前提：齊性檢驗

? 方差分析的三個種類

2 單因素方差分析

2 多因素方差分析

2 協(xié)方差分析

? 方差分析的四個步驟

? 分析結(jié)果解讀要點

演練：終端擺放位置與終端銷量有關(guān)嗎

演練：客戶學(xué)歷對消費水平的影響分析

演練：廣告形式和價格是影響終端銷量的關(guān)鍵因素嗎

演練：營業(yè)員的性別、技能級別對產(chǎn)品銷量有影響嗎

演練：尋找影響產(chǎn)品銷量的關(guān)鍵因素

? 多因素方差分析原理

? 多因素方差分析的作用

? 多因素方差結(jié)果的解讀

演練：廣告形式、地區(qū)對銷量的影響因素分析

? 協(xié)方差分析原理

? 協(xié)方差分析的適用場景

演練：排除收入后，網(wǎng)齡對消費水平的影響大小分析

5、 列聯(lián)分析/卡方檢驗（兩類別變量的相關(guān)性分析）

? 卡方檢驗應(yīng)用場景

? 交叉表與列聯(lián)表

? 計數(shù)值與期望值

? 卡方檢驗的原理

? 卡方檢驗的幾個計算公式

? 列聯(lián)表分析的適用場景

案例：套餐類型對客戶流失的影響分析

案例：學(xué)歷對業(yè)務(wù)套餐偏好的影響分析

案例：行業(yè)/規(guī)模對風(fēng)控的影響分析

6、 屬性重要程度排序/篩選

7、 主成份分析（PCA）

? 因子分析的原理

? 因子個數(shù)如何選擇

? 如何解讀因子含義

案例：提取影響電信客戶流失的主成分分析

第四部分： 線性回歸模型

問題：如何預(yù)測產(chǎn)品的銷量/銷售金額？

1、 常用數(shù)值預(yù)測的模型

? 通用預(yù)測模型：回歸模型

2、 線性回歸應(yīng)用場景

3、 線性回歸模型種類

? 一元線性回歸

? 多元線性回歸

4、 線性回歸建模過程

5、 帶分類變量的回歸建模

6、 回歸模型的質(zhì)量評估

7、 回歸方程的解讀

第五部分： 回歸算法實現(xiàn)

1、 基本概念

? 損失函數(shù)

2、 普通最小二乘法OLS

? 數(shù)學(xué)推導(dǎo)

? OLS存在的問題

3、 梯度下降算法

? 梯度概念

? 梯度下降/上升算法

? 批量梯度/隨機梯度/小批量梯度

? 學(xué)習(xí)率的影響

? 早期停止法

4、 牛頓法/擬牛頓法

? 泰勒公式(Taylor)

? 牛頓法(Newton)

? 擬牛頓法(Quasi-Newton)的優(yōu)化

2 DFP/BFGS/L-BFGS

5、 算法比較-優(yōu)缺點

第六部分： 回歸模型優(yōu)化

6、 回歸分析的基本原理

? 三個基本概念：總變差、回歸變差、剩余變差

? 方程的顯著性檢驗：是否可以做回歸分析？

? 因素的顯著性檢驗：自變量是否可用？

? 擬合優(yōu)度檢驗：回歸模型的質(zhì)量評估？

? 理解標(biāo)準(zhǔn)誤差的含義：預(yù)測的準(zhǔn)確性？

7、 欠擬合解決：多項式回歸

? 剔除離群值

? 剔除非顯著因素

? 非線性關(guān)系檢驗

? 相互作用檢驗

? 共線性檢驗

? 檢驗誤差項

案例：銷量預(yù)測模型優(yōu)化示例

8、 過擬合解決：正則項

? 嶺回歸（Ridge）

? 套索回歸（Lasso）

? 彈性網(wǎng)絡(luò)回歸（ElasticNet）

9、 超參優(yōu)化

? 手工遍歷cross_val_score

? 交叉驗證RidgeCV/LassCV/ElasticNetCV

? 網(wǎng)格搜索GridSearchCV

? 隨機搜索RandomizedSearchCV

第七部分： 自定義模型

1、 自定義回歸模型

2、 模型參數(shù)最優(yōu)法方法

? 全局優(yōu)化/暴力破解brute

? 局部優(yōu)化fmin

? 有約束優(yōu)化minimize

3、 好模型都是優(yōu)化出來的

案例：餐廳客流量進(jìn)行建模及模型優(yōu)化

4、 基于回歸季節(jié)模型

? 季節(jié)性回歸模型的參數(shù)

? 相加模型

? 相乘模型

? 模型解讀/模型含義

案例：美國航空旅客里程的季節(jié)性趨勢分析

5、 新產(chǎn)品預(yù)測與S曲線

? 產(chǎn)品累計銷量的S曲線模型

? 如何評估銷量增長的上限以及拐點

? 珀爾曲線

? 龔鉑茲曲線

案例：預(yù)測IPAD的銷售增長拐點，以及銷量上限

第八部分： 案例實戰(zhàn)

1、 客戶消費金額預(yù)測模型

2、 房價預(yù)測模型及優(yōu)化

結(jié)束：課程總結(jié)與問題答疑。