公眾號：尤而小屋
作者：Peter
編輯：Peter

今天給大家?guī)硪黄碌膋aggle數(shù)據(jù)分析實戰(zhàn)案例：基于長短期記憶網(wǎng)絡(luò)（LSTM）模型的倫敦自行車需求預(yù)測分析。本文的兩個亮點：

• 高級可視化：本文使用seaborn進行了可視化探索分析，圖表精美，分析維度多樣化，結(jié)論清晰

• 使用LSTM模型：長短期網(wǎng)絡(luò)模型的使用，使得結(jié)果更具價值和參考性

這是一個排名第三的方案：

感興趣的可以參考原notebook地址進行學(xué)習(xí)：

https://www.kaggle.com/yashgoyal401/advanced-visualizations-and-predictions-with-lstm/notebook

還有一篇類似文章：

https://www.kaggle.com/geometrein/helsinki-city-bike-network-analysis

本文步驟

下面是原文中的主要步驟：數(shù)據(jù)信息、特征工程、數(shù)據(jù)EDA、預(yù)處理、模型構(gòu)建、需求預(yù)測和評價模型

LSTM模型

本文重點是使用了LSTM模型。LSTM是一種時間遞歸神經(jīng)網(wǎng)絡(luò)，適合于處理和預(yù)測時間序列中間隔和延遲相對較長的重要事件。

小編實力有限，關(guān)于模型的原理詳細(xì)講解參考書籍和文章：

1、優(yōu)秀書籍：《Long Short Term Memory Networks with Python》是澳大利亞機器學(xué)習(xí)專家Jason Brownlee的著作

2、知乎文章：https://zhuanlan.zhihu.com/p/24018768

3、B站：搜索李沐大神關(guān)于LSTM的講解

以后有實力了，肯定寫一篇關(guān)于LSTM原理的文章！一起學(xué)習(xí)吧！卷！

數(shù)據(jù)

導(dǎo)入庫

import?pandas?as?pd import?numpy?as?np#?seaborn可視化 import?seaborn?as?sns import?matplotlib.pyplot?as?plt sns.set(context="notebook",?style="darkgrid",?palette="deep",?font="sans-serif",?font_scale=1,?color_codes=True)#?忽略警告 import?warnings warnings.filterwarnings("ignore")

讀取數(shù)據(jù)

基本信息：

#?1、數(shù)據(jù)量 data.shape(17414,?10)#?2、數(shù)據(jù)字段類型 data.dtypestimestamp????????object cnt???????????????int64 t1??????????????float64 t2??????????????float64 hum?????????????float64 wind_speed??????float64 weather_code????float64 is_holiday??????float64 is_weekend??????float64 season??????????float64 dtype:?object

數(shù)據(jù)中沒有缺失值：

字段含義

解釋下數(shù)據(jù)中字段的含義：

• timestamp：用于將數(shù)據(jù)分組的時間戳字段

• cnt：新自行車份額的計數(shù)

• t1：以C為單位的實際溫度

• t2：C中的溫度“感覺像”，主觀感受

• hum：濕度百分比

• windspeed：風(fēng)速，以km / h為單位

• weathercode：天氣類別；（具體的取值見下圖中的最后）

• isholiday：布爾字段，1-假期，0-非假期

• isweekend：布爾字段，如果一天是周末，則為1

• Season：類別氣象季節(jié)：0-春季；1-夏；2-秋；3-冬

TensorFlow基本信息

TensorFlow的GPU信息和版本查看：

特征工程

下面介紹本文中特征工程的實現(xiàn)：

數(shù)據(jù)信息

一個DataFrame的info信息能夠顯示出字段名、非空數(shù)量、數(shù)據(jù)類型等多個基本信息

時間字段處理

對原始數(shù)據(jù)中的時間相關(guān)字段進行處理：

1、將時間戳轉(zhuǎn)成時間類型

2、轉(zhuǎn)成索引

使用set_index方法將timestamp屬性轉(zhuǎn)成索引

3、提取時、一個月中的第幾天、第幾周、月份等信息

提取時間相關(guān)的多個信息，同時查看數(shù)據(jù)的shape

相關(guān)系數(shù)分析

1、相關(guān)系數(shù)求出絕對值

2、篩選兩個屬性之間的相關(guān)系數(shù)大于0.8

數(shù)據(jù)EDA

相關(guān)系數(shù)熱力圖

plt.figure(figsize=(16,6))sns.heatmap(data.corr(),cmap="YlGnBu",??#?色系square=True,??#?方形linewidths=.2,center=0,linecolor="red"??#?線條顏色)plt.show()

通過熱力圖我們發(fā)現(xiàn)：t1和t2的相關(guān)系數(shù)是比較高的，和上面的“屬性之間的系數(shù)大于0.8”的結(jié)論是吻合的

空值判斷

關(guān)于如何判斷一份數(shù)據(jù)中是否存在空值，小編常用的方法：

文章中使用的方法是：基于熱力圖顯示。圖形中沒有任何信息，表明數(shù)據(jù)是不存在空值的

需求量變化

整體的需求量cnt隨著時間變化的關(guān)系：

plt.figure(figsize=(15,6))sns.lineplot(data=data,??#?傳入數(shù)據(jù)x=data.index,??#?時間y=data.cnt??#?需求量)plt.xticks(rotation=90)

從上面的圖形，我們能夠看到整體日期下的需求量變化情況。

按月采樣resample

pandas中的采樣函數(shù)使用的是resample，頻率可以是天、周、月等

查看隨著時間的變化，每月的需求量變化情況：

plt.figure(figsize=(16,6))sns.lineplot(data=df_by_month,x=df_by_month.index,y=df_by_month.cnt,color="red")plt.xticks(rotation=90)plt.show()

可以從圖中觀察到以下3點結(jié)論：

年初到7、8月份需求量呈現(xiàn)上升趨勢

差不多在8月份達到一定的峰值

8月份過后需求量開始降低

每小時需求量

plt.figure(figsize=(16,6))sns.pointplot(data=data,??#?數(shù)據(jù)x=data.hour,??#?小時y=data.cnt,??#?需求量color="red"??#?顏色)plt.show()

每月的需求量對比

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.month,y=data.cnt,color="red") plt.show()

明顯的結(jié)論：7月份是需求的高峰期

按照星期統(tǒng)計

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.day_of_week,y=data.cnt,color="black")plt.show()

從圖中觀察到：

• 周1到周五的需求是明顯高于周末兩天；

• 同時在周五的時候已經(jīng)呈現(xiàn)下降趨勢

按照自然日

plt.figure(figsize=(16,6))sns.lineplot(data=data,x=data.day_of_month,??#?一個月中的某天y=data.cnt,??#?需求量color="r")plt.show()

3點結(jié)論：

• 前10天需求量在逐步增加

• 中間10天存在一定的小幅波動

• 最后10天波動加大，呈現(xiàn)下降趨勢

多個維度下的可視化化效果

基于是否節(jié)假日下的小時

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.hour,??#?按照小時統(tǒng)計y=data.cnt,hue=data.is_holiday??#?節(jié)假日分組)plt.show()

通過上面圖形呈現(xiàn)的結(jié)果；

• 非節(jié)假日下（is_holiday=0）：在8點和下午的17、18點是用車的高峰期，恰好是上下班的時間點

• 到了節(jié)假日（1）的情況下：下午的2-3點才是真正的用車高峰期

基于是否節(jié)假日的月份

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.month,y=data.cnt,hue=data.is_holiday)plt.show()

在非節(jié)假日，7月份達到了用車的高峰期

3、按照季度統(tǒng)計

plt.figure(figsize=(16,6))sns.pointplot(data=data,y=data.cnt,x=data.month,hue=data.season,?#?季度分組)plt.show()

從上圖中觀察到：第3個季度（6–7-8月份）才是用車需求量最多的時候

4、季度+是否節(jié)假日

plt.figure(figsize=(16,6))#?分組統(tǒng)計數(shù)量 sns.countplot(data=data,x=data.season,hue=data.is_holiday,)plt.show()

從1-2-3-4季度來看，非節(jié)假日中的整體需求量1和2季度是稍高于0和3季度；而節(jié)假日中，0-3季度則存在一定的需求

5、是否周末+小時

plt.figure(figsize=(16,6))sns.lineplot(data=data,x=data.hour,??#?小時y=data.cnt,hue=data.is_weekend)??#?分是否周末統(tǒng)計plt.show()

• 非周末（0）：仍然是上午的7-8點和下午的17-18點是用車高峰期

• 周末（1）：下午的14-15點才是高峰期

這個結(jié)論和上面的是吻合的

6、季度+小時

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.hour,y=data.cnt,hue=data.season?#?分季度統(tǒng)計)plt.show()

分季度查看每個小時的需求量：整體的趨勢大體是相同的，都是在8點左右達到上午的高封期，下午的17-18點（下班的時候）達到另一個高封期

天氣因素

濕度和需求量關(guān)系

觀察不同濕度下，需求量的變化情況：

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.hum,y=data.cnt,color="black")plt.xticks(rotation=90)plt.show()

可以看到：空氣空氣濕度越大，整體的需求量是呈現(xiàn)下降趨勢

風(fēng)速和需求量

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.wind_speed,y=data.cnt)plt.xticks(rotation=90)plt.show()

風(fēng)速對需求量的影響：

• 在風(fēng)速為25.5的時候存在一個局部峰值

• 風(fēng)速偏高或者偏低的時候需求都有所降低

不同天氣情況weather_code

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.weather_code,y=data.cnt)plt.xticks(rotation=90)plt.show()

結(jié)論：可以看到在scattered coluds（weather_code=2）情況下，需求量是最大的

天氣情況+小時

plt.figure(figsize=(16,6))sns.pointplot(data=data,x=data.hour,y=data.cnt,hue=data.weather_code?#?分天氣統(tǒng)計)plt.show()

從上午中觀察到：不同的天氣對小時需求量的趨勢影響不大，仍然是在上下班高峰期的時候需求量最大，說明打工人上班出行幾乎不受天氣影響！！！

自然天+天氣情況

plt.figure(figsize=(16,6))sns.countplot(data=data,x=data.day_of_week,??#?一周中的第幾天hue=data.weather_code,??#?天氣情況palette="viridis")plt.legend(loc="best")??#?位置選擇plt.show()

從上圖中觀察到：

不同的星期日期，code=1下的需求量都是最大的

禮拜1到禮拜5：滿足code=1 > 2 > 3 > 7 > 4 的需求量

到禮拜6和禮拜天：大家出行的時候?qū)μ鞖怅P(guān)注影響偏低，除去code=1，其他天氣情況的需求差距也在縮小！

箱型圖

箱型圖能夠反映一組數(shù)據(jù)的分布情況

按小時

plt.figure(figsize=(16,6))sns.boxplot(data=data,x=data.hour,??#?小時y=data.cnt)plt.show()

從箱型圖的分布觀察到：兩個重要的時間段：上午7-8點和下午的17-18點

每周星期幾

plt.figure(figsize=(16,6))sns.boxplot(data=data,x=data["day_of_week"],y=data.cnt)plt.show()

在基于星期的箱型圖中，禮拜三的時候存在一定的用車高峰期

月的自然天

plt.figure(figsize=(16,6))sns.boxplot(data=data,x=data["day_of_month"],y=data.cnt)plt.show()

在基于自然日的情況下，9號的存在高峰期

按月

plt.figure(figsize=(16,6))sns.boxplot(data=data,x=data["month"],y=data.cnt)plt.show()

明顯觀察到：7-8月份存在一定的需求高峰期，兩側(cè)月份的需求相對較少些

是否節(jié)假日+月的天

#?每月中的天和是否節(jié)假日統(tǒng)計plt.figure(figsize=(16,6))sns.boxplot(data=data,x=data["day_of_month"],y=data.cnt,hue=data["is_holiday"])plt.show()

數(shù)據(jù)預(yù)處理

下面開始進行建模，首先進行的是數(shù)據(jù)預(yù)處理工作，主要是包含兩點：

• 數(shù)據(jù)集的切分

• 數(shù)據(jù)歸一化和標(biāo)準(zhǔn)化

切分?jǐn)?shù)據(jù)

按照9：1的比例來切分?jǐn)?shù)據(jù)集：

#?切分?jǐn)?shù)據(jù)集的模塊 from?sklearn.model_selection?import?train_test_split train,test?=?train_test_split(data,test_size=0.1,?random_state=0) print(train.shape) print(test.shape)#?------ (15672,?13) (1742,?13)

數(shù)據(jù)歸一化

from?sklearn.preprocessing?import?MinMaxScaler #?實例化對象 scaler??=?MinMaxScaler()#?部分字段的擬合 num_col?=?['t1',?'t2',?'hum',?'wind_speed'] trans_1?=?scaler.fit(train[num_col].to_numpy())#?訓(xùn)練集轉(zhuǎn)換 train.loc[:,num_col]?=?trans_1.transform(train[num_col].to_numpy()) #?測試集轉(zhuǎn)換 test.loc[:,num_col]?=?trans_1.transform(test[num_col].to_numpy())#?對標(biāo)簽cnt的歸一化 cnt_scaler?=?MinMaxScaler() #?數(shù)據(jù)擬合 trans_2?=?cnt_scaler.fit(train[["cnt"]]) #?數(shù)據(jù)轉(zhuǎn)化 train["cnt"]?=?trans_2.transform(train[["cnt"]]) test["cnt"]?=?trans_2.transform(test[["cnt"]])

訓(xùn)練集和測試集

#?用于顯示進度條 from?tqdm?import?tqdm_notebook?as?tqdm tqdm().pandas()def?prepare_data(X,?y,?time_steps=1):Xs?=?[]Ys?=?[]for?i?in?tqdm(range(len(X)?-?time_steps)):a?=?X.iloc[i:(i?+?time_steps)].to_numpy()Xs.append(a)Ys.append(y.iloc[i?+?time_steps])return?np.array(Xs),?np.array(Ys)steps?=?24X_train,?y_train?=?prepare_data(train,?train.cnt,?time_steps=steps) X_test,?y_test?=?prepare_data(test,?test.cnt,?time_steps=steps)print(X_train.shape) print(X_test.shape) print(y_train.shape) print(y_test.shape)

LSTM建模

導(dǎo)入庫

在建模之前先導(dǎo)入相關(guān)的庫：

#?1、導(dǎo)入需要的庫 from?keras.preprocessing?import?sequence from?keras.models?import?Sequential from?keras.layers?import?Dense,?Dropout,?LSTM,?Bidirectional#?2、實例化對象并擬合建模 model?=?Sequential() model.add(Bidirectional(LSTM(128,?input_shape=(X_train.shape[1],X_train.shape[2]))))model.add(Dropout(0.2)) model.add(Dense(1,?activation="sigmoid")) model.compile(optimizer="adam",?loss="mse")

模型準(zhǔn)備

傳入訓(xùn)練集的數(shù)據(jù)后，進行數(shù)據(jù)的擬合建模過程：

均方差和Epoch的關(guān)系

探索在不同的Epoch下均方差的大小：

plt.plot(prepared_model.history["loss"],label="loss") plt.plot(prepared_model.history["val_loss"],label="val_loss")#?lengend位置選擇 plt.legend(loc="best") #?兩個軸的標(biāo)題 plt.xlabel("No.?Of?Epochs") plt.ylabel("mse?score")

需求量預(yù)測

生成真實值和預(yù)測值

inverse_transform 函數(shù)是將標(biāo)準(zhǔn)化后的數(shù)據(jù)轉(zhuǎn)換為原始數(shù)據(jù)。

pred?=?model.predict(X_test)??#?對測試集預(yù)測? y_test_inv?=?cnt_scaler.inverse_transform(y_test.reshape(-1,1))??#?轉(zhuǎn)變數(shù)據(jù) pred_inv?=?cnt_scaler.inverse_transform(pred)??#?預(yù)測值轉(zhuǎn)換 pred_inv

繪圖比較

將測試集轉(zhuǎn)變后的值和基于模型的預(yù)測值進行繪圖比較：

plt.figure(figsize=(16,6))#?測試集：真實值 plt.plot(y_test_inv.flatten(),?marker=".",?label="actual") #?模型預(yù)測值 plt.plot(pred_inv.flatten(),?marker=".",?label="predicttion",color="r") #?圖例位置 plt.legend(loc="best") plt.show()

生成數(shù)據(jù)

將測試集的真實值和預(yù)測值進行對比，通過兩個指標(biāo)來進行評估：

1、原文中的方法（個人認(rèn)為復(fù)雜了）：

#?原方法過程復(fù)雜了y_test_actual?=?cnt_scaler.inverse_transform(y_test.reshape(-1,1)) y_test_pred?=?cnt_scaler.inverse_transform(pred)arr_1?=?np.array(y_test_actual) arr_2?=?np.array(y_test_pred)actual?=?pd.DataFrame(data=arr_1.flatten(),columns=["actual"]) predicted?=?pd.DataFrame(data=arr_2.flatten(),columns?=?["predicted"])final?=?pd.concat([actual,predicted],axis=1) final.head()

2、個人方法

y_test_actual?=?cnt_scaler.inverse_transform(y_test.reshape(-1,1)) y_test_pred?=?cnt_scaler.inverse_transform(pred) final?=?pd.DataFrame({"actual":?y_test_actual.flatten(),"pred":?y_test_pred.flatten()}) final.head()

模型評價

通過mse和r2_score指標(biāo)來評估模型：

#?mse、r2_score from?sklearn.metrics?import?mean_squared_error,?r2_scorermse?=?np.sqrt(mean_squared_error(final.actual,?final.pred)) r2?=?r2_score(final.actual,?final.pred)print("rmse?is?:?",?rmse) print("-------") print("r2_score?is?:?",?r2)#?結(jié)果 rmse?is?:??1308.7482342002293 ------- r2_score?is?:??-0.3951062293743659

下面作者又繪圖來對比真實值和預(yù)測值：

plt.figure(figsize=(16,6))#?真實值和預(yù)測值繪圖 plt.plot(final.actual,?marker=".",?label="Actual?label") plt.plot(final.pred,?marker=".",?label="predicted?label") #?圖例位置 plt.legend(loc="best")plt.show()

疑點

Peter個人有個疑點：下面的兩幅圖有什么區(qū)別，除了顏色不同？看了整個源碼，作圖的數(shù)據(jù)和代碼都是一樣的。作者還寫了兩段話：

Note that our model is predicting only one point in the future. That being said, it is doing very well. Although our model can’t really capture the extreme values it does a good job of predicting (understanding) the general pattern.

說普通話：注意到，我們的模型僅預(yù)測未來的一個點。話雖如此，它仍做得很好。雖然我們的模型不能真正捕捉到極值，但它在預(yù)測（理解）一般模式方面還是做得很好

AS you can see that I have used Bidirectional LSTM to train our model and Our model is working quite well.Our model is cap*able to capture the trend and not capturing the Extreme values which is a really good thing. SO, we can say that the overall perfomance is good.

說普通話：如你所見，我使用雙向 LSTM 來訓(xùn)練我們的模型，并且我們的模型運行良好。我們的模型能夠捕捉趨勢而不是捕捉極值，這是一件非常好的事情。所以，我們可以說整體表現(xiàn)不錯。

下面是整個建模的源碼，請參考學(xué)習(xí)，也可以討論上面的疑點：

#?劃分?jǐn)?shù)據(jù)集 from?sklearn.model_selection?import?train_test_split train,test?=?train_test_split(data,test_size=0.1,random_state=0)#?數(shù)據(jù)歸一化 from?sklearn.preprocessing?import?MinMaxScaler scaler??=?MinMaxScaler() #?對4個自變量的歸一化 num_colu?=?['t1',?'t2',?'hum',?'wind_speed'] trans_1?=?scaler.fit(train[num_colu].to_numpy()) train.loc[:,num_colu]?=?trans_1.transform(train[num_colu].to_numpy()) test.loc[:,num_colu]?=?trans_1.transform(test[num_colu].to_numpy()) #?對因變量的歸一化 cnt_scaler?=?MinMaxScaler() trans_2?=?cnt_scaler.fit(train[["cnt"]]) train["cnt"]?=?trans_2.transform(train[["cnt"]]) test["cnt"]?=?trans_2.transform(test[["cnt"]])#?導(dǎo)入建模庫和實例化 from?keras.preprocessing?import?sequence from?keras.models?import?Sequential from?keras.layers?import?Dense,?Dropout?,?LSTM?,?Bidirectional? #?時序?qū)ο蟮膶嵗?model?=?Sequential() model.add(Bidirectional(LSTM(128,input_shape=(X_train.shape[1],X_train.shape[2])))) model.add(Dropout(0.2)) model.add(Dense(1,activation="sigmoid"))?#?激活函數(shù)選擇 model.compile(optimizer="adam",loss="mse")??#?優(yōu)化器和損失函數(shù)選擇with?tf.device('/GPU:0'):prepared_model?=?model.fit(X_train,y_train,batch_size=32,epochs=100,validation_data=[X_test,y_test])#?兩種損失的對比 plt.plot(prepared_model.history["loss"],label="loss") plt.plot(prepared_model.history["val_loss"],label="val_loss") plt.legend(loc="best") plt.xlabel("No.?Of?Epochs") plt.ylabel("mse?score")#?測試數(shù)據(jù)集的預(yù)測 pred?=?model.predict(X_test)??#?cnt數(shù)據(jù)的還原 y_test_inv?=?cnt_scaler.inverse_transform(y_test.reshape(-1,1)) pred_inv?=?cnt_scaler.inverse_transform(pred)#?繪圖1 plt.figure(figsize=(16,6)) plt.plot(y_test_inv.flatten(),?marker=".",label="actual") plt.plot(pred_inv.flatten(),?marker=".",label="prediction",color="r")#?cnt數(shù)據(jù)的還原 y_test_actual?=?cnt_scaler.inverse_transform(y_test.reshape(-1,1)) y_test_pred?=?cnt_scaler.inverse_transform(pred)#?轉(zhuǎn)成數(shù)組 arr_1?=?np.array(y_test_actual) arr_2?=?np.array(y_test_pred)#?生成Pandas的DataFrame，合并數(shù)據(jù) actual?=?pd.DataFrame(data=arr_1.flatten(),columns=["actual"]) predicted?=?pd.DataFrame(data=arr_2.flatten(),columns?=?["predicted"]) final?=?pd.concat([actual,predicted],axis=1)#?評價指標(biāo) from?sklearn.metrics?import?mean_squared_error,?r2_score rmse?=?np.sqrt(mean_squared_error(final.actual,final.predicted))? r2?=?r2_score(final.actual,final.predicted)? print("rmse?is?:?{}\nr2?is?:?{}".format(rmse,r2))#?繪圖2 plt.figure(figsize=(16,6)) plt.plot(final.actual,label="Actual?data") plt.plot(final.predicted,label="predicted?values") plt.legend(loc="best")

文中數(shù)據(jù)的獲取方式，關(guān)注公眾號【尤而小屋】，回復(fù) 自行車 即可。

或者百度云下載，鏈接: https://pan.baidu.com/s/1x_ZkXQJIrgyjkJ7Sko8lmA?

提取碼: igoc

往期精彩回顧適合初學(xué)者入門人工智能的路線及資料下載(圖文+視頻)機器學(xué)習(xí)入門系列下載中國大學(xué)慕課《機器學(xué)習(xí)》（黃海廣主講）機器學(xué)習(xí)及深度學(xué)習(xí)筆記等資料打印《統(tǒng)計學(xué)習(xí)方法》的代碼復(fù)現(xiàn)專輯 AI基礎(chǔ)下載機器學(xué)習(xí)交流qq群955171419，加入微信群請掃碼：

總結(jié)

以上是生活随笔為你收集整理的【数据竞赛】基于LSTM模型实现共享自行车需求预测的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。