TensorFlow中的隐藏层感知器介绍和示例图解

隐藏层是人工神经网络, 它是输入层和输出层之间的一层。人工神经元采用一组加权输入并通过激活函数产生输出。它是近乎神经的一部分, 工程师可以在其中模拟人脑中进行的活动的类型。
隐藏的神经网络是通过某些技术建立的。在许多情况下, 加权输入是随机分配的。另一方面, 它们通过称为反向传播的过程进行微调和校准。
感知器隐藏层中的人工神经元在大脑中充当生物神经元, 它吸收概率输入信号并对其进行处理。并将其转换为对应于生物神经元轴突的输出。
输入层之后的层称为隐藏层, 因为它们直接解析为输入。最简单的网络结构是在隐藏层中具有一个直接输出值的神经元。
深度学习可以指的是我们的神经网络中有许多隐藏层。它们之所以很深, 是因为它们在历史上的训练会非常缓慢, 但是使用现代技术和硬件准备可能要花费几秒钟或几分钟。
单个隐藏层将构建一个简单的网络。
感知器隐藏层的代码如下所示：

#Importing the essential modules in the hidden layerimport tensorflow as tf import numpy as np import matplotlib.pyplot as plt import math, random np.random.seed(1000) function_to_learn = lambda x: np.cos(x) + 0.1*np.random.randn(*x.shape) layer_1_neurons = 10 NUM_points = 1000 #Train the parameters of hidden layerbatch_size = 100 NUM_EPOCHS = 1500 all_x = np.float32(np.random.uniform(-2*math.pi, 2*math.pi, (1, NUM_points))).T np.random.shuffle(all_x) train_size = int(900) #Train the first 700 points in the set x_training = all_x[:train_size]y_training = function_to_learn(x_training)#Training the last 300 points in the given set x_validation = all_x[train_size:] y_validation = function_to_learn(x_validation) plt.figure(1) plt.scatter(x_training, y_training, c = 'blue', label = 'train') plt.scatter(x_validation, y_validation, c = 'pink', label = 'validation') plt.legend() plt.show()X = tf.placeholder(tf.float32, [None, 1], name = "X")Y = tf.placeholder(tf.float32, [None, 1], name = "Y")#first layer #Number of neurons = 10 w_h = tf.Variable(tf.random_uniform([1, layer_1_neurons], \ minval = -1, maxval = 1, dtype = tf.float32)) b_h = tf.Variable(tf.zeros([1, layer_1_neurons], dtype = tf.float32)) h = tf.nn.sigmoid(tf.matmul(X, w_h) + b_h)#output layer #Number of neurons = 10 w_o = tf.Variable(tf.random_uniform([layer_1_neurons, 1], \ minval = -1, maxval = 1, dtype = tf.float32)) b_o = tf.Variable(tf.zeros([1, 1], dtype = tf.float32)) #building the modelmodel = tf.matmul(h, w_o) + b_o #minimize the cost function (model - Y) train_op = tf.train.AdamOptimizer().minimize(tf.nn.l2_loss(model - Y)) #Starting the Learning phasesess = tf.Session() sess.run(tf.initialize_all_variables()) errors = [] for i in range(NUM_EPOCHS): for start, end in zip(range(0, len(x_training), batch_size), \ range(batch_size, len(x_training), batch_size)): sess.run(train_op, feed_dict = {X: x_training[start:end], \ Y: y_training[start:end]})cost = sess.run(tf.nn.l2_loss(model - y_validation), \ feed_dict = {X:x_validation}) errors.append(cost) if i%100 == 0: print("epoch %d, cost = %g" % (i, cost)) plt.plot(errors, label='MLP Function Approximation') plt.xlabel('epochs') plt.ylabel('cost') plt.legend() plt.show()

输出
【TensorFlow中的隐藏层感知器介绍和示例图解】以下是功能层近似的说明-