Python數(shù)據(jù)科學(xué):線性回歸
變量分析:
①相關(guān)分析:一個連續(xù)變量與一個連續(xù)變量間的關(guān)系。
②雙樣本t檢驗:一個二分分類變量與一個連續(xù)變量間的關(guān)系。
③方差分析:一個多分類分類變量與一個連續(xù)變量間的關(guān)系。
④卡方檢驗:一個二分分類變量或多分類分類變量與一個二分分類變量間的關(guān)系。
本次介紹:
線性回歸:多個連續(xù)變量與一個連續(xù)變量間的關(guān)系。
其中線性回歸分為簡單線性回歸和多元線性回歸。
/ 01 / 數(shù)據(jù)分析與數(shù)據(jù)挖掘
數(shù)據(jù)庫:一個存儲數(shù)據(jù)的工具。因為Python是內(nèi)存計算,難以處理幾十G的數(shù)據(jù),所以有時數(shù)據(jù)清洗需在數(shù)據(jù)庫中進(jìn)行。
統(tǒng)計學(xué):針對小數(shù)據(jù)的數(shù)據(jù)分析方法,比如對數(shù)據(jù)抽樣、描述性分析、結(jié)果檢驗。
人工智能/機(jī)器學(xué)習(xí)/模式識別:神經(jīng)網(wǎng)絡(luò)算法,模仿人類神經(jīng)系統(tǒng)運(yùn)作,不僅可以通過訓(xùn)練數(shù)據(jù)進(jìn)行學(xué)習(xí),而且還能根據(jù)學(xué)習(xí)的結(jié)果對未知的數(shù)據(jù)進(jìn)行預(yù)測。
/ 02 / 回歸方程
01 簡單線性回歸
簡單線性回歸只有一個自變量與一個因變量。
含有的參數(shù)有「回歸系數(shù)」「截距」「擾動項」。
其中「擾動項」又稱「隨機(jī)誤差」,服從均值為0的正態(tài)分布。
線性回歸的因變量實(shí)際值與預(yù)測值之差稱為「殘差」。
線性回歸旨在使殘差平方和最小化。
下面以書中的案例,實(shí)現(xiàn)一個簡單線性回歸。
建立收入與月均信用卡支出的預(yù)測模型。
import numpy as np
import pandas as pd
import statsmodels.a(chǎn)pi as sm
import matplotlib.pyplot as plt
from statsmodels.formula.a(chǎn)pi import ols
# 消除pandas輸出省略號情況及換行情況
pd.set_option('display.max_columns', 500)
pd.set_option('display.width', 1000)
# 讀取數(shù)據(jù),skipinitialspace:忽略分隔符后的空白
df = pd.read_csv('creditcard_exp.csv', skipinitialspace=True)
print(df.head())
讀取數(shù)據(jù),數(shù)據(jù)如下。
對數(shù)據(jù)進(jìn)行相關(guān)性分析。
# 獲取信用卡有支出的行數(shù)據(jù)
exp = df[df['avg_exp'].notnull()].copy().iloc[:, 2:].drop('age2', axis=1)
# 獲取信用卡無支出的行數(shù)據(jù),NaN
exp_new = df[df['avg_exp'].isnull()].copy().iloc[:, 2:].drop('age2', axis=1)
# 描述性統(tǒng)計分析
exp.describe(include='all')
print(exp.describe(include='all'))
# 相關(guān)性分析
print(exp[['avg_exp', 'Age', 'Income', 'dist_h(yuǎn)ome_val']].corr(method='pearson'))
輸出結(jié)果。
發(fā)現(xiàn)收入(Income)和平均支出(avg_exp)相關(guān)性較大,值為0.674。
使用簡單線性回歸建立模型。
# 使用簡單線性回歸建立模型
lm_s = ols('avg_exp ~ Income', data=exp).fit()
print(lm_s.params)
# 輸出模型基本信息,回歸系數(shù)及檢驗信息,其他模型診斷信息
print(lm_s.summary())
一元線性回歸系數(shù)的輸出結(jié)果如下。
從上可知,回歸系數(shù)值為97.73,截距值為258.05。
模型概況如下。
其中R值為0.454,P值接近于0,所以模型還是有一定參考意義的。
使用線性回歸模型測試訓(xùn)練數(shù)據(jù)集,得出其預(yù)測值及殘差。
# 生成的模型使用predict產(chǎn)生預(yù)測值,resid為訓(xùn)練數(shù)據(jù)集的殘差
print(pd.DataFrame([lm_s.predict(exp), lm_s.resid], index=['predict', 'resid']).T.head())
輸出結(jié)果,可與最開始讀取數(shù)據(jù)時輸出的結(jié)果對比一下。
使用模型測試預(yù)測數(shù)據(jù)集的結(jié)果。
# 對待預(yù)測數(shù)據(jù)集使用模型進(jìn)行預(yù)測
print(lm_s.predict(exp_new)[:5])
輸出結(jié)果。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月8日立即報名>> 【在線會議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報名中>> 全數(shù)會2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題