python 使用Tensorflow訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)鳶尾花分類

# 導(dǎo)入數(shù)據(jù)，分別為輸入特征和標(biāo)簽
x_data = datasets.load_iris().data ## 存花萼、花瓣特征數(shù)據(jù)
y_data = datasets.load_iris().target # 存對(duì)應(yīng)種類
# 隨機(jī)打亂數(shù)據(jù)（因?yàn)樵紨?shù)據(jù)是順序的，順序不打亂會(huì)影響準(zhǔn)確率）
# seed: 隨機(jī)數(shù)種子，是一個(gè)整數(shù)，當(dāng)設(shè)置之后，每次生成的隨機(jī)數(shù)都一樣（為方便教學(xué)，以保每位同學(xué)結(jié)果一致）
np.random.seed(116)  # 使用相同的seed，保證輸入特征和標(biāo)簽一一對(duì)應(yīng)
np.random.shuffle(x_data)
np.random.seed(116)
np.random.shuffle(y_data)
tf.random.set_seed(116)
# 將打亂后的數(shù)據(jù)集分割為訓(xùn)練集和測(cè)試集，訓(xùn)練集為前120行，測(cè)試集為后30行
x_train = x_data[:-30]
y_train = y_data[:-30]
x_test = x_data[-30:]
y_test = y_data[-30:]
# 轉(zhuǎn)換x的數(shù)據(jù)類型，否則后面矩陣相乘時(shí)會(huì)因數(shù)據(jù)類型不一致報(bào)錯(cuò)
x_train = tf.cast(x_train, tf.float32)
x_test = tf.cast(x_test, tf.float32)
# from_tensor_slices函數(shù)使輸入特征和標(biāo)簽值一一對(duì)應(yīng)。（把數(shù)據(jù)集分批次，每個(gè)批次batch組數(shù)據(jù)）
train_db = tf.data.Dataset.from_tensor_slices((x_train, y_train)).batch(32)
test_db = tf.data.Dataset.from_tensor_slices((x_test, y_test)).batch(32)

# 生成神經(jīng)網(wǎng)絡(luò)的參數(shù)，4個(gè)輸入特征故，輸入層為4個(gè)輸入節(jié)點(diǎn)；因?yàn)?分類，故輸出層為3個(gè)神經(jīng)元
# 用tf.Variable()標(biāo)記參數(shù)可訓(xùn)練
w1 = tf.Variable(tf.random.truncated_normal([4, 3], stddev=0.1)) # 四行三列,方差為0.1
b1 = tf.Variable(tf.random.truncated_normal([3], stddev=0.1)) # 一行三列,方差為0.1

a = 0.1  # 學(xué)習(xí)率為0.1
epoch = 500  # 循環(huán)500輪
# 訓(xùn)練部分
for epoch in range(epoch):  # 數(shù)據(jù)集級(jí)別的循環(huán)，每個(gè)epoch循環(huán)一次數(shù)據(jù)集
    for step, (x_train, y_train) in enumerate(train_db):  # batch級(jí)別的循環(huán) ，每個(gè)step循環(huán)一個(gè)batch
        with tf.GradientTape() as tape:  # with結(jié)構(gòu)記錄梯度信息
            y = tf.matmul(x_train, w1) + b1  # 神經(jīng)網(wǎng)絡(luò)乘加運(yùn)算
            y = tf.nn.softmax(y)  # 使輸出y符合概率分布
            y_ = tf.one_hot(y_train, depth=3)  # 將標(biāo)簽值轉(zhuǎn)換為獨(dú)熱碼格式，方便計(jì)算loss
            loss = tf.reduce_mean(tf.square(y_ - y))  # 采用均方誤差損失函數(shù)mse = mean(sum(y-y*)^2)
        # 計(jì)算loss對(duì)w, b的梯度
        grads = tape.gradient(loss, [w1, b1])
        # 實(shí)現(xiàn)梯度更新 w1 = w1 - lr * w1_grad    b = b - lr * b_grad
        w1.assign_sub(a * grads[0])  # 參數(shù)w1自更新
        b1.assign_sub(a * grads[1])  # 參數(shù)b自更新

# 測(cè)試部分
total_correct, total_number = 0, 0
for x_test, y_test in test_db:
    # 前向傳播求概率
    y = tf.matmul(x_test, w1) + b1
    y = tf.nn.softmax(y)
    predict = tf.argmax(y, axis=1)  # 返回y中最大值的索引，即預(yù)測(cè)的分類
    # 將predict轉(zhuǎn)換為y_test的數(shù)據(jù)類型
    predict = tf.cast(predict, dtype=y_test.dtype)
    # 若分類正確，則correct=1，否則為0，將bool型的結(jié)果轉(zhuǎn)換為int型
    correct = tf.cast(tf.equal(predict, y_test), dtype=tf.int32)
    # 將每個(gè)batch的correct數(shù)加起來
    correct = tf.reduce_sum(correct)
    # 將所有batch中的correct數(shù)加起來
    total_correct += int(correct)
    # total_number為測(cè)試的總樣本數(shù)，也就是x_test的行數(shù)，shape[0]返回變量的行數(shù)
    total_number += x_test.shape[0]
# 總的準(zhǔn)確率等于total_correct/total_number
acc = total_correct / total_number
print("測(cè)試準(zhǔn)確率 = %.2f %%" % (acc * 100.0))
my_test = np.array([[5.9, 3.0, 5.1, 1.8]])
print("輸入 5.9  3.0  5.1  1.8")
my_test = tf.convert_to_tensor(my_test)
my_test = tf.cast(my_test, tf.float32)
y = tf.matmul(my_test, w1) + b1
y = tf.nn.softmax(y)
species = {0: "狗尾鳶尾", 1: "雜色鳶尾", 2: "弗吉尼亞鳶尾"}
predict = np.array(tf.argmax(y, axis=1))[0]  # 返回y中最大值的索引，即預(yù)測(cè)的分類
print("該鳶尾花為：" + species.get(predict))