減少卷積神經網路的層數，參數量就一定會減少嗎？答案可能相反！

標題：減少卷積神經網路的層數，參數量就一定會減少嗎？答案可能相反！

前言：

在建置影像的卷積神經網路模型時，過度配適(過擬合,overfitting)的現象常常在樣本數不足的情況出現，除了想辦法透過資料擴增或遷移學習的方法解決這個問題外，神經網路的模型參數量過大往往是更容易造成此問題的重要因素。

但是，不少初學者透過減少"卷積層及池化層"的方式減少模型的大小，但是這個動作在"某些情況"反而造成模型的參數量更大。

本文透過實際計算參數量的方式，講述"減少卷積層及池化層"時"參數量反而越來越大"的情況。

-----------分隔線-----------

卷積運算的介紹：

卷積運算相當於濾鏡運算，簡單來說，我們用下圖的例子作為範例。

這是常見的卷積運算，但如果是有3個色板的RGB影像，該如何計算呢，請見下圖。

三個色板，進行了三種不同的卷積核(kernel)的運算後，加在一起，這時，神經網路需要更新的參數量為27(3個色板乘上3×3的kernel)個，也就是說，無論影像多大，卷積層的參數量都不變。

如果第一層卷積層的輸出為32個色板，那麼，上面這張圖的運算就會有32次，再將這32個輸出合併為同一個張量的32個色板，不過這32次卷積運算中，參數的數值會不同。

在這裡，參數量為3×(3×3)×32=864(與圖片大小無關)

如果第二層卷積層的輸出為64個色板，那麼，就可以想像成，上面那張圖的左邊有32個4×4大小的圖片，再乘上3×3大小的核(kernel)，由於這個動作只會輸出一個色板，所以類似此運算會做64次。

在這裡，參數量為32×(3×3)×64=18,432(與圖片大小無關)

看到這裡，可能會覺得，卷積神經網路其實是在進行3D的卷積運算(像下圖這樣)，其實在實作時通常還是2D的運算。(見更下一張圖)

程式庫在進行運算時，通常會將3D的輸入轉換成2D的輸入(如下圖)，這樣做的好處，就是能利用線性代數的程式庫讓陣列的計算最佳化。

像下圖這樣，將3D的輸入和核都轉成二維矩陣時，就可以透過2維的乘法運算，快速完成3D的卷積運算，算完後再轉換回3D的大小。

然而，為什麼減少神經網路的層數時在部分情況反而會造成模型的參數量更大呢，原因就出在平坦層後方的全連結層。

-----------分隔線-----------

全連結層的矩陣乘積運算：

先看下圖，你可以看到，全連結層的運算模擬圖(輸入的大小為2、隱藏層的神經元大小為3)。

在這裡，看起來，隱藏層的參數量就是6個(不考慮偏權值)。

實際上，它就是在進行一種矩陣相乘的運算，如下圖。

這就是常見到的，Y=X×W+B。

所以很容易就能看出來，W的數量並不是神經元數量，而是線的數量。

那麼，如果平坦化後的結果是32,768個數字，在下一層的全連結層的輸出有128個神經元時，就會有32,768×128= 4,194,304個參數。

這一層的參數量遠遠比前面所有的卷積運算的參數量加起來都還大。

而這一層的參數量，跟圖片的大小有間接關係。

-----------分隔線-----------

現在來以例子來計算吧。

圖片的輸入為224*224的大小，有RGB三個色板。

模型為：

input→32個filter的3×3濾鏡→2×2池化層→64個filter的3×3濾鏡→2×2池化層→128個filter的3×3濾鏡→2×2池化層→256個filter的3×3濾鏡→2×2池化層→平坦層→128個神經元的全連結層→2個神經元的輸出層。

然後，為了縮減模型的大小，弄巧成拙的減少了一層卷積層和池化層：

input→32個filter的3×3濾鏡→2×2池化層→64個filter的3×3濾鏡→2×2池化層→128個filter的3×3濾鏡→2×2池化層→平坦層→128個神經元的全連結層→2個神經元的輸出層。

兩者的差異如下(不考慮偏權值)：

第一個模型的參數量(六百萬個參數)：

3×(3×3)×32→0→32×(3×3)×64→0→64×(3×3)×128→0→128×(3×3)×256→0→0→[14×14×256]×128→128×2=864+18,432+73,728+294,912+[6,422,528]+256=6,810,720。

第二個弄巧成拙的模型參數量(一千兩百萬個參數)：

3×(3×3)×32→0→32×(3×3)×64→0→64×(3×3)×128→0→0→[28×28×128]×128→128×2=864+18,432+73,728+[12,845,056]+256=12,938,336。

由上述計算可算出，減少了一層卷積層和池化層後，由於能縮減四分之三參數的池化層減少了，少了池化層後，圖片的大小從14×14變成28×28，接上全連結層後，參數量反而增加了。

所以，如果要減少模型的大小，不妨先注意平坦層後方的全連結層。

另外，使用全域平均池化，可以將所有色板直接取平均值，只留下一個數值，這樣的話是能顯著減少那一層的參數量的，這是一個好方法。

真棒，今天又學到了很多東西呢！

[tf.keras]利用LSTM預測泵傳感器剩餘壽命(四)—驗證

在上一章節我們訓練完成了模型檔，並儲存為LSTM_result.h5的檔案，現在，我們在資料檔的同一個資料夾建立名為lstm_verification.py的檔案，並使用程式碼編輯器開啟它。

驗證前將引入以下套件：

import pandas as pd

import numpy as np

from tensorflow.keras.models import load_model

import copy

利用pandas讀取上一章節建立的正規化前資料。

valueList= pd.read_csv('./ValueList.csv')

利用pandas讀取一開始建立的訓練檔資料。

df2 = pd.read_csv('./test_sensor.csv')

利用drop移除不需要的欄位，並利用fillna將空白資料填滿0。

df2 = df2.drop(['timestamp','sensor_15','sensor_50','Unnamed: 0','machine_status'],axis=1)

df2 =df2.fillna(value=0)

建立正規化的函數，使用訓練時儲存的參數。

def normalize(train2):

    for i in train2:

        max11=valueList[i][0]

        min11=valueList[i][1]

        mean11=valueList[i][2]

        train2[i]= train2[i].apply(lambda x: (x - mean11) / (max11 - min11))

        train2[i][train2[i]>(max11 - mean11) / (max11 - min11)]=(max11 - mean11) / (max11 - min11)

        train2[i][train2[i]<(min11 - mean11) / (max11 - min11)]=(min11 - mean11) / (max11 - min11)

    return train2

建立反正規化函數，依然是使用訓練時儲存的參數。

def unnormalize(train):

  train2 = copy.deepcopy(train) 

  for i in range(len(train)):

      train2[i]=train[i]*(valueList['time_left'][0]-valueList['time_left'][1])+valueList['time_left'][2]

  return train2

資料的X刪除剩餘時間，而Y則是只保留剩餘時間。

def buildTrain(train):

  X_train, Y_train = [], []

  train2=train.drop(['time_left'],axis=1)

  #for i in range(train.shape[0]):

  X_train=np.array(train2.iloc[:][:]).tolist()

  Y_train=np.array(train.iloc[:]["time_left"]).tolist()

  return np.array(X_train), np.array(Y_train)

工具函數都訂好了之後，將資料除60再除24，能夠將分鐘換算成天，我們就以天為單位做驗證。

df2["time_left"]=df2["time_left"]/60/24

替驗證資料做正規化及上一章節提到過的動作。

test_norm =normalize(df2)

X_val, Y_val = buildTrain(test_norm)

X_val = X_val[:,np.newaxis]

載入訓練完成的模型。

model=load_model("LSTM_result.h5")

進行預測

prediction=model.predict(X_val)

count=0

prediction1=prediction

for i in range(prediction1.shape[0]):

    prediction1[i]=unnormalize(prediction[i])

Y_val1=unnormalize(Y_val)

for i in range(len(Y_val)):

    if prediction1[i][0][0]<=Y_val1[i]+0.5 and prediction1[i][0][0]>=Y_val1[i]-0.5:

        count=count+1

print(count/len(Y_val1))

最後驗證的準確度為：0.9955842595373986
意謂著，若以天為單位(正負誤差12小時)，訓練集跟驗證集的準確度差不多，都有99%的準確度。

[tf.keras]利用LSTM預測泵傳感器剩餘壽命(三)—訓練

我們在資料檔的同一個資料夾建立名為lstm_train.py的檔案，並使用程式碼編輯器開啟它。

訓練前將引入以下套件：

import pandas as pd

import numpy as np

from tensorflow.python.keras.models import Sequential

from tensorflow.python.keras.layers import Dense, Dropout, Activation, Flatten, LSTM, TimeDistributed, RepeatVector

from tensorflow.python.keras.layers.normalization import BatchNormalization

from tensorflow.python.keras.optimizer_v2.adam import Adam

from tensorflow.python.keras.callbacks import EarlyStopping, ModelCheckpoint

import matplotlib.pyplot as plt

from tensorflow.keras.models import load_model

import copy

利用pandas讀取上一章節建立的訓練檔資料。

df = pd.read_csv('./train_sensor.csv')

利用drop移除不需要的欄位，並利用fillna將空白資料填滿0。

df = df.drop(['timestamp','sensor_15','sensor_50','Unnamed: 0','machine_status'],axis=1)

df =df.fillna(value=0)

定義正規化函數，將資料正規化為：
(值-平均)/(對大值-最小值)

/def normalize(train):

  train_norm = train.apply(lambda x: (x - np.mean(x)) / (np.max(x) - np.min(x)))

  return train_norm

定義反正規化函數，目的是最後在驗證時要把正規化後的剩餘時間反轉回原來的數字。
註：valueList為之後才會宣告的物件。

def unnormalize(train):

  train2 = copy.deepcopy(train) 

  for i in range(len(train)):

      train2[i]=train[i]*(valueList['time_left'][0]-valueList['time_left'][1])+valueList['time_left'][2]

  return train2

這個是儲存正規化前資料用的csv檔，包含資料欄位的最大值、最小值、平均值。
註：如忽略此項動作，對驗證檔單獨驗證時會比較麻煩。

def save_normalize(df):

    ValueList=copy.deepcopy(df[:][:3])

    for i in df:

        max1=np.max(df[i][:])

        min1=np.min(df[i][:])

        mean1=np.mean(df[i][:])

        ValueList[i][0]=max1

        ValueList[i][1]=min1

        ValueList[i][2]=mean1

    ValueList.to_csv('./ValueList.csv')

這是切分函數，輸入數值(如0.1)將切割成90%的訓練資料及10%的驗證資料並回傳。

def splitData(X,Y,rate):

  X_train = X[int(X.shape[0]*rate):]

  Y_train = Y[int(Y.shape[0]*rate):]

  X_val = X[:int(X.shape[0]*rate)]

  Y_val = Y[:int(Y.shape[0]*rate)]

  return X_train, Y_train, X_val, Y_val

這是將訓練資料的X刪除剩餘時間，而Y則是只保留剩餘時間。

def buildTrain(train):

  X_train, Y_train = [], []

  train2=train.drop(['time_left'],axis=1)

  X_train=np.array(train2.iloc[:][:]).tolist()

  Y_train=np.array(train.iloc[:]["time_left"]).tolist()

  return np.array(X_train), np.array(Y_train)

shuffle函數則是將訓練資料洗牌(由於之前在Excel洗牌過了，所以也可忽略)。
註：np.random.seed相當重要，那代表亂數種子，可以用它來確保每次亂數結果相同，在模型儲存後重開視窗二度訓練時就能使這次的打亂跟上次一樣，否則第二次切分後的訓練集跟驗證集將跟第一次的切分混淆。

def shuffle(X,Y):

  np.random.seed(10)

  randomList = np.arange(X.shape[0])

  np.random.shuffle(randomList)

  return X[randomList], Y[randomList]

工具函數都訂好了之後，將資料除60再除24，能夠將分鐘換算成天，我們就以天為單位做訓練和驗證。

df["time_left"]=df["time_left"]/60/24

儲存正規化前的資料。

save_normalize(df)

將資料正規化，並讓X跟Y分離：
X為sensor的資料，Y為剩餘天數。

train_norm = normalize(df)

X_train, Y_train = buildTrain(train_norm)

將資料洗牌(可斟酌情況忽略)

X_train, Y_train = shuffle(X_train, Y_train)

將資料切分為訓練過程時的訓練，跟驗證(並非驗證檔的驗證)。

X_train, Y_train, X_val, Y_val = splitData(X_train, Y_train, 0.1)

提升X的維度。

X_train = X_train[:,np.newaxis]

X_val = X_val[:,np.newaxis]

建立model用的函數，我們疊了四層LSTM，損失函數為mse，優化器為adam。
註：這些並沒有標準答案，可以自己配置。

def buildOneToOneModel(shape):

  model = Sequential()

  model.add(LSTM(128, input_length=shape[1], input_dim=shape[2],return_sequences=True))

  model.add(LSTM(128, input_length=shape[1], input_dim=shape[2],return_sequences=True))

  model.add(LSTM(128, input_length=shape[1], input_dim=shape[2],return_sequences=True))

  model.add(LSTM(128, input_length=shape[1], input_dim=shape[2],return_sequences=True))

  model.add(TimeDistributed(Dense(1)))

  model.compile(loss='mse', optimizer="adam")

  model.summary()

  return model

定義繪製圖形函數，在訓練完後可以輸出訓練過程。

def plot1(history):

     N = np.arange(0, len(history['loss']))

     fig=plt.figure()

     fig.set_size_inches(18.5, 10.5)

     plt.plot(N, history['loss'], label = "train_loss")

     plt.plot(N, history['val_loss'], label = "val_loss")

     plt.xlabel("Epoch #")

     plt.ylabel("Loss")

     plt.legend()

     plt.savefig('loss.png', dpi=100)

     plt.close()

建立模型

model = buildOneToOneModel(X_train.shape)

我們使用，EarlyStopping做訓練時的callback，當發生訓練時loss不減反增10次時立即停止訓練。

callback = EarlyStopping(monitor="loss", patience=10, verbose=1, mode="auto")

這是執行訓練，放入X_train, Y_train分別為訓練的90%資料，validation_data是驗證的資料(10%)，epochs為訓練次數，batch_size為每批次訓練的樣本數，callbacks為剛剛指定的EarlyStopping。

history=model.fit(X_train, Y_train, epochs=300, batch_size=256, validation_data=(X_val, Y_val), callbacks=[callback])

訓練完後將執行這行，輸出訓練過程。

plot1(history.history)

接著讀取訓練前建立的資料檔案，它是正規化之前的最大值、最小值、平均值。

valueList= pd.read_csv('./ValueList.csv')

這是訓練完後對那10%的驗證進行的準確度評估，步驟是預測X_val的結果並儲入prediction並將其反正規化。
然後用迴圈一條一條確認真實結果跟預測的差別，在此範例，誤差半天的range就是24小時，所以以誤差半天作為驗證標準是合理的。

prediction=model.predict(X_val)

count=0

prediction1=prediction

for i in range(prediction1.shape[0]):

    prediction1[i]=unnormalize(prediction[i])

Y_val1=unnormalize(Y_val)

for i in range(len(Y_val)):

    if prediction1[i][0][0]<=Y_val1[i]+0.5 and prediction1[i][0][0]>=Y_val1[i]-0.5:

        count=count+1

print(count/len(Y_val1))  

驗證完後如果評估訓練結果成功，可以將結果儲存。

model.save("LSTM_result.h5")

以後要二次訓練或驗證時，只要將程式碼中的：
model = buildOneToOneModel(X_train.shape)
取代為：

model=load_model("LSTM_result.h5")

即可接續上次的模型繼續訓練或驗證。

=====執行結果=====
執行model.fit時應該會出現類似以下的畫面：

Model: "sequential"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
lstm (LSTM)                  (None, 1, 128)            92160     
_________________________________________________________________
lstm_1 (LSTM)                (None, 1, 128)            131584    
_________________________________________________________________
lstm_2 (LSTM)                (None, 1, 128)            131584    
_________________________________________________________________
lstm_3 (LSTM)                (None, 1, 128)            131584    
_________________________________________________________________
time_distributed (TimeDistri (None, 1, 1)              129       
=================================================================
Total params: 487,041
Trainable params: 487,041
Non-trainable params: 0
_________________________________________________________________
Train on 119836 samples, validate on 13315 samples
Epoch 1/300
119836/119836 [==============================] - 14s 113us/sample - loss: 0.0385 - val_loss: 0.0258
Epoch 2/300
119836/119836 [==============================] - 7s 58us/sample - loss: 0.0215 - val_loss: 0.0206
Epoch 3/300
119836/119836 [==============================] - 7s 56us/sample - loss: 0.0150 - val_loss: 0.0122
Epoch 4/300
119836/119836 [==============================] - 7s 58us/sample - loss: 0.0117 - val_loss: 0.0107
.
.
.
Epoch 185/300
119836/119836 [==============================] - 7s 55us/sample - loss: 1.9707e-05 - val_loss: 4.0432e-05
Epoch 186/300
119836/119836 [==============================] - 7s 55us/sample - loss: 1.9298e-05 - val_loss: 3.8655e-05
Epoch 187/300
119836/119836 [==============================] - 7s 55us/sample - loss: 9.7278e-05 - val_loss: 6.1180e-05
Epoch 00187: early stopping

訓練過程則會儲存成loss.png檔，可以看出沒有明顯的過擬合。

驗證時則會出現類似以下數字：
0.9960946301164101
這個數字代表準確度99.6%，但，我們還有一份切割20%的驗證檔，利用它評估比較準確，將於下一章節驗證。

另外，神經網路這種東西本來就有運氣成分在，所以執行結果跟本文的結果有微小的誤差是正常的。

[tf.keras]利用LSTM預測泵傳感器剩餘壽命(四)—驗證