[解決方法]使用JavaScript發送一次Request卻得到多次回傳結果的錯誤

今天在JavaScript使用XMLHttpRequest並send出去後，竟然得到三次回傳：

解決方法：
只要把類似oReq.open("get", url, true)語法後面的true，改成false，就只會收到一次結果了。

[解決方法]Visual Studio不能執行Qt 64位元Release的問題

之前在Visual Studio上編譯QT 64位元Release的程式時出了各種錯誤。

各種錯誤訊息包含：

• this application failed to start because it could not find or load the qt platform plugin windows
• 未載入ucrtbase.pdb
• 正在從下列位置載入ucrtbase.pdb的符號：Microsoft符號伺服器

之類的，

這是因為缺少了部分的QT元件(例如dll檔)

解決方法：

首先，我們先在不偵錯的情況下建置QT程式：

然後開啟專案的資料夾確認該程式存在

然後，現在是主要的解法，QT裡面有個windeployqt.exe檔案可以解決該程式缺少元件的問題。

目前windeployqt.ex在我的電腦中的位置為：

C:\Qt\5.13.1\msvc2017_64\bin\windeployqt.exe

而編譯後的程式在我的電腦中的位置為：

C:\Users\user\source\repos\QtWidgetsApplication5\x64\Release

我們就直接開啟cmd輸入：

C:\Qt\5.13.1\msvc2017_64\bin\windeployqt.exe  C:\Users\user\source\repos\QtWidgetsApplication5\x64\Release

然後按下enter：

執行完後就會發現，缺少的元件已經自動被加入該目錄以下。

再次執行程式後，就會發現程式已經可以開啟了。

如果覺得這篇文有幫助到你們的話，請留言或幫忙按個廣告吧。

您的支持是我寫文的最大動力。

如果依然失敗了，也請留言讓我知道，看看哪個環節出了問題，我有看到就會回。

希望這篇文有幫助到各位ξ( ✿＞◡❛)

[解決方法] Visual Studio的「未正確載入套件 'Vsix'」錯誤

最近在替Visual Studio安裝QT時，看到「未正確載入套件 'Vsix'」的錯誤。

並且在刪除
 C:\Users\<username>\AppData\Local\Microsoft\VisualStudio\<version>\ComponentModelCache
的資料後，依然無法解決問題。

解決方法：
開啟Visual Studio Installer，更新Visual Studio後重開機，便能解決此錯誤。

[解決方式]Sourcetree push資料時畫面空白的問題

今天利用Sourcetree push資料時，畫面竟然是空白的，且無法push。

解決方式很簡單，首先，按下Tools/Options

然後可能會看到Push branches選項是nothing，我們把它改成別的選項(例如simple)，並按下下方的OK。

然後回到push的畫面，已經可以push了。

[tf.keras]利用LSTM預測泵傳感器剩餘壽命(四)—驗證

在上一章節我們訓練完成了模型檔，並儲存為LSTM_result.h5的檔案，現在，我們在資料檔的同一個資料夾建立名為lstm_verification.py的檔案，並使用程式碼編輯器開啟它。

驗證前將引入以下套件：

import pandas as pd

import numpy as np

from tensorflow.keras.models import load_model

import copy

利用pandas讀取上一章節建立的正規化前資料。

valueList= pd.read_csv('./ValueList.csv')

利用pandas讀取一開始建立的訓練檔資料。

df2 = pd.read_csv('./test_sensor.csv')

利用drop移除不需要的欄位，並利用fillna將空白資料填滿0。

df2 = df2.drop(['timestamp','sensor_15','sensor_50','Unnamed: 0','machine_status'],axis=1)

df2 =df2.fillna(value=0)

建立正規化的函數，使用訓練時儲存的參數。

def normalize(train2):

    for i in train2:

        max11=valueList[i][0]

        min11=valueList[i][1]

        mean11=valueList[i][2]

        train2[i]= train2[i].apply(lambda x: (x - mean11) / (max11 - min11))

        train2[i][train2[i]>(max11 - mean11) / (max11 - min11)]=(max11 - mean11) / (max11 - min11)

        train2[i][train2[i]<(min11 - mean11) / (max11 - min11)]=(min11 - mean11) / (max11 - min11)

    return train2

建立反正規化函數，依然是使用訓練時儲存的參數。

def unnormalize(train):

  train2 = copy.deepcopy(train) 

  for i in range(len(train)):

      train2[i]=train[i]*(valueList['time_left'][0]-valueList['time_left'][1])+valueList['time_left'][2]

  return train2

資料的X刪除剩餘時間，而Y則是只保留剩餘時間。

def buildTrain(train):

  X_train, Y_train = [], []

  train2=train.drop(['time_left'],axis=1)

  #for i in range(train.shape[0]):

  X_train=np.array(train2.iloc[:][:]).tolist()

  Y_train=np.array(train.iloc[:]["time_left"]).tolist()

  return np.array(X_train), np.array(Y_train)

工具函數都訂好了之後，將資料除60再除24，能夠將分鐘換算成天，我們就以天為單位做驗證。

df2["time_left"]=df2["time_left"]/60/24

替驗證資料做正規化及上一章節提到過的動作。

test_norm =normalize(df2)

X_val, Y_val = buildTrain(test_norm)

X_val = X_val[:,np.newaxis]

載入訓練完成的模型。

model=load_model("LSTM_result.h5")

進行預測

prediction=model.predict(X_val)

count=0

prediction1=prediction

for i in range(prediction1.shape[0]):

    prediction1[i]=unnormalize(prediction[i])

Y_val1=unnormalize(Y_val)

for i in range(len(Y_val)):

    if prediction1[i][0][0]<=Y_val1[i]+0.5 and prediction1[i][0][0]>=Y_val1[i]-0.5:

        count=count+1

print(count/len(Y_val1))

最後驗證的準確度為：0.9955842595373986
意謂著，若以天為單位(正負誤差12小時)，訓練集跟驗證集的準確度差不多，都有99%的準確度。

[tf.keras]利用LSTM預測泵傳感器剩餘壽命(三)—訓練

我們在資料檔的同一個資料夾建立名為lstm_train.py的檔案，並使用程式碼編輯器開啟它。

訓練前將引入以下套件：

import pandas as pd

import numpy as np

from tensorflow.python.keras.models import Sequential

from tensorflow.python.keras.layers import Dense, Dropout, Activation, Flatten, LSTM, TimeDistributed, RepeatVector

from tensorflow.python.keras.layers.normalization import BatchNormalization

from tensorflow.python.keras.optimizer_v2.adam import Adam

from tensorflow.python.keras.callbacks import EarlyStopping, ModelCheckpoint

import matplotlib.pyplot as plt

from tensorflow.keras.models import load_model

import copy

利用pandas讀取上一章節建立的訓練檔資料。

df = pd.read_csv('./train_sensor.csv')

利用drop移除不需要的欄位，並利用fillna將空白資料填滿0。

df = df.drop(['timestamp','sensor_15','sensor_50','Unnamed: 0','machine_status'],axis=1)

df =df.fillna(value=0)

定義正規化函數，將資料正規化為：
(值-平均)/(對大值-最小值)

/def normalize(train):

  train_norm = train.apply(lambda x: (x - np.mean(x)) / (np.max(x) - np.min(x)))

  return train_norm

定義反正規化函數，目的是最後在驗證時要把正規化後的剩餘時間反轉回原來的數字。
註：valueList為之後才會宣告的物件。

def unnormalize(train):

  train2 = copy.deepcopy(train) 

  for i in range(len(train)):

      train2[i]=train[i]*(valueList['time_left'][0]-valueList['time_left'][1])+valueList['time_left'][2]

  return train2

這個是儲存正規化前資料用的csv檔，包含資料欄位的最大值、最小值、平均值。
註：如忽略此項動作，對驗證檔單獨驗證時會比較麻煩。

def save_normalize(df):

    ValueList=copy.deepcopy(df[:][:3])

    for i in df:

        max1=np.max(df[i][:])

        min1=np.min(df[i][:])

        mean1=np.mean(df[i][:])

        ValueList[i][0]=max1

        ValueList[i][1]=min1

        ValueList[i][2]=mean1

    ValueList.to_csv('./ValueList.csv')

這是切分函數，輸入數值(如0.1)將切割成90%的訓練資料及10%的驗證資料並回傳。

def splitData(X,Y,rate):

  X_train = X[int(X.shape[0]*rate):]

  Y_train = Y[int(Y.shape[0]*rate):]

  X_val = X[:int(X.shape[0]*rate)]

  Y_val = Y[:int(Y.shape[0]*rate)]

  return X_train, Y_train, X_val, Y_val

這是將訓練資料的X刪除剩餘時間，而Y則是只保留剩餘時間。

def buildTrain(train):

  X_train, Y_train = [], []

  train2=train.drop(['time_left'],axis=1)

  X_train=np.array(train2.iloc[:][:]).tolist()

  Y_train=np.array(train.iloc[:]["time_left"]).tolist()

  return np.array(X_train), np.array(Y_train)

shuffle函數則是將訓練資料洗牌(由於之前在Excel洗牌過了，所以也可忽略)。
註：np.random.seed相當重要，那代表亂數種子，可以用它來確保每次亂數結果相同，在模型儲存後重開視窗二度訓練時就能使這次的打亂跟上次一樣，否則第二次切分後的訓練集跟驗證集將跟第一次的切分混淆。

def shuffle(X,Y):

  np.random.seed(10)

  randomList = np.arange(X.shape[0])

  np.random.shuffle(randomList)

  return X[randomList], Y[randomList]

工具函數都訂好了之後，將資料除60再除24，能夠將分鐘換算成天，我們就以天為單位做訓練和驗證。

df["time_left"]=df["time_left"]/60/24

儲存正規化前的資料。

save_normalize(df)

將資料正規化，並讓X跟Y分離：
X為sensor的資料，Y為剩餘天數。

train_norm = normalize(df)

X_train, Y_train = buildTrain(train_norm)

將資料洗牌(可斟酌情況忽略)

X_train, Y_train = shuffle(X_train, Y_train)

將資料切分為訓練過程時的訓練，跟驗證(並非驗證檔的驗證)。

X_train, Y_train, X_val, Y_val = splitData(X_train, Y_train, 0.1)

提升X的維度。

X_train = X_train[:,np.newaxis]

X_val = X_val[:,np.newaxis]

建立model用的函數，我們疊了四層LSTM，損失函數為mse，優化器為adam。
註：這些並沒有標準答案，可以自己配置。

def buildOneToOneModel(shape):

  model = Sequential()

  model.add(LSTM(128, input_length=shape[1], input_dim=shape[2],return_sequences=True))

  model.add(LSTM(128, input_length=shape[1], input_dim=shape[2],return_sequences=True))

  model.add(LSTM(128, input_length=shape[1], input_dim=shape[2],return_sequences=True))

  model.add(LSTM(128, input_length=shape[1], input_dim=shape[2],return_sequences=True))

  model.add(TimeDistributed(Dense(1)))

  model.compile(loss='mse', optimizer="adam")

  model.summary()

  return model

定義繪製圖形函數，在訓練完後可以輸出訓練過程。

def plot1(history):

     N = np.arange(0, len(history['loss']))

     fig=plt.figure()

     fig.set_size_inches(18.5, 10.5)

     plt.plot(N, history['loss'], label = "train_loss")

     plt.plot(N, history['val_loss'], label = "val_loss")

     plt.xlabel("Epoch #")

     plt.ylabel("Loss")

     plt.legend()

     plt.savefig('loss.png', dpi=100)

     plt.close()

建立模型

model = buildOneToOneModel(X_train.shape)

我們使用，EarlyStopping做訓練時的callback，當發生訓練時loss不減反增10次時立即停止訓練。

callback = EarlyStopping(monitor="loss", patience=10, verbose=1, mode="auto")

這是執行訓練，放入X_train, Y_train分別為訓練的90%資料，validation_data是驗證的資料(10%)，epochs為訓練次數，batch_size為每批次訓練的樣本數，callbacks為剛剛指定的EarlyStopping。

history=model.fit(X_train, Y_train, epochs=300, batch_size=256, validation_data=(X_val, Y_val), callbacks=[callback])

訓練完後將執行這行，輸出訓練過程。

plot1(history.history)

接著讀取訓練前建立的資料檔案，它是正規化之前的最大值、最小值、平均值。

valueList= pd.read_csv('./ValueList.csv')

這是訓練完後對那10%的驗證進行的準確度評估，步驟是預測X_val的結果並儲入prediction並將其反正規化。
然後用迴圈一條一條確認真實結果跟預測的差別，在此範例，誤差半天的range就是24小時，所以以誤差半天作為驗證標準是合理的。

prediction=model.predict(X_val)

count=0

prediction1=prediction

for i in range(prediction1.shape[0]):

    prediction1[i]=unnormalize(prediction[i])

Y_val1=unnormalize(Y_val)

for i in range(len(Y_val)):

    if prediction1[i][0][0]<=Y_val1[i]+0.5 and prediction1[i][0][0]>=Y_val1[i]-0.5:

        count=count+1

print(count/len(Y_val1))  

驗證完後如果評估訓練結果成功，可以將結果儲存。

model.save("LSTM_result.h5")

以後要二次訓練或驗證時，只要將程式碼中的：
model = buildOneToOneModel(X_train.shape)
取代為：

model=load_model("LSTM_result.h5")

即可接續上次的模型繼續訓練或驗證。

=====執行結果=====
執行model.fit時應該會出現類似以下的畫面：

Model: "sequential"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
lstm (LSTM)                  (None, 1, 128)            92160     
_________________________________________________________________
lstm_1 (LSTM)                (None, 1, 128)            131584    
_________________________________________________________________
lstm_2 (LSTM)                (None, 1, 128)            131584    
_________________________________________________________________
lstm_3 (LSTM)                (None, 1, 128)            131584    
_________________________________________________________________
time_distributed (TimeDistri (None, 1, 1)              129       
=================================================================
Total params: 487,041
Trainable params: 487,041
Non-trainable params: 0
_________________________________________________________________
Train on 119836 samples, validate on 13315 samples
Epoch 1/300
119836/119836 [==============================] - 14s 113us/sample - loss: 0.0385 - val_loss: 0.0258
Epoch 2/300
119836/119836 [==============================] - 7s 58us/sample - loss: 0.0215 - val_loss: 0.0206
Epoch 3/300
119836/119836 [==============================] - 7s 56us/sample - loss: 0.0150 - val_loss: 0.0122
Epoch 4/300
119836/119836 [==============================] - 7s 58us/sample - loss: 0.0117 - val_loss: 0.0107
.
.
.
Epoch 185/300
119836/119836 [==============================] - 7s 55us/sample - loss: 1.9707e-05 - val_loss: 4.0432e-05
Epoch 186/300
119836/119836 [==============================] - 7s 55us/sample - loss: 1.9298e-05 - val_loss: 3.8655e-05
Epoch 187/300
119836/119836 [==============================] - 7s 55us/sample - loss: 9.7278e-05 - val_loss: 6.1180e-05
Epoch 00187: early stopping

訓練過程則會儲存成loss.png檔，可以看出沒有明顯的過擬合。

驗證時則會出現類似以下數字：
0.9960946301164101
這個數字代表準確度99.6%，但，我們還有一份切割20%的驗證檔，利用它評估比較準確，將於下一章節驗證。

另外，神經網路這種東西本來就有運氣成分在，所以執行結果跟本文的結果有微小的誤差是正常的。

[tf.keras]利用LSTM預測泵傳感器剩餘壽命(四)—驗證