|
（ps:在寫conv2d和max_pool之前在網(wǎng)上有位朋友已經(jīng)把這個方法講解得很透徹,，我把連接奉上,，http://blog.csdn.net/mao_xiao_feng/article/details/53444333 ,，http://blog.csdn.net/mao_xiao_feng/article/details/53453926 開頭部分我先作下簡單的表述）
首先看下官方文檔的關(guān)于conv2d
tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)
除去name和use_cudnn_on_gpu,，與方法有關(guān)的一共四個參數(shù)：
- 第一個參數(shù)input：指需要做卷積的輸入圖像,，它要求是一個Tensor,，具有[batch, in_height, in_width, in_channels]這樣的shape,，具體含義是[訓(xùn)練時一個batch的圖片數(shù)量, 圖片高度, 圖片寬度, 圖像通道數(shù)]
比方我們這么寫意味著：輸入值為數(shù)量為10的28x28x像素的有一個圖像通道的圖片
input_data = tf.Variable(tf.random_uniform([10, 28, 28, 1]))
（關(guān)于圖像的通道,，在做測試的時候mnist就是只有一個顏色通道的灰色圖,，而CIFAR-10則擁有RGB三種顏色的通道）
- 第二個參數(shù)filter：是CNN中的卷積核，它要求是一個Tensor,，具有[filter_height, filter_width, in_channels, out_channels]這樣的shape,，具體含義是[卷積核的高度，卷積核的寬度，圖像通道數(shù),，卷積核個數(shù)],，有一個地方需要注意，第三維in_channels,，就是參數(shù)input的第四維,。而第四緯的out_channels則代表卷積核需要提取的特征。
以下的寫法卷積核截取5x5的大小的圖片,，第三個緯度1與input_data對應(yīng),，提取32種特征
W_con = tf.Variable(tf.random_uniform([5, 5, 1, 32]))
第三個參數(shù)strides：卷積時在圖像每一維的步長，這是一個一維的向量,，長度4 第四個參數(shù)padding：只能寫"SAME","VALID"其中之一,，寫SAME的話在做滑動遇到元素不足時允許補(bǔ)全，VALID遇到此情況則多余會被拋棄
我們用代碼對mnist做實際的測試,，首先引入tensorflow,、mnist和numpy
import tensorflow as tf
import numpy as np
from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)
首先對于mnist手寫數(shù)字測試集，相當(dāng)多的資料講述已經(jīng)很多了,，簡單的說它包含兩部分?jǐn)?shù)據(jù),，一部分是像素28x28的灰色調(diào)圖片，另一部分是這些這些圖片的指代數(shù)字,。
比如我們首取一個數(shù)據(jù)，輸出batch_x的shape,，batch_y我們暫不理會
batch_x,batch_y=mnist.train.next_batch(1)
print np.shape(batch_x)
輸出結(jié)果：
(1, 784)
可見batch_x是由28x28=784像素組成的圖片,，并且我們還發(fā)現(xiàn)，原始的數(shù)據(jù)的緯度不符合運(yùn)算規(guī)則,，這時候我們需要進(jìn)行reshape,，然后才能得到我們一開始所說的 [圖片數(shù)量、寬度,、高度,、顏色通道]
input_data=tf.reshape(batch_x,[1,28,28,1])
為了便于我們觀察卷積神經(jīng)的處理過程中維度shape的變化，我們先定義兩個通用的卷積和池化方法：
def conv2d(x, W):
return tf.nn.conv2d(x, W, strides=[1, 1, 1, 1], padding='SAME')
def max_pool_2x2(x):
return tf.nn.max_pool(x, ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding='SAME')
#第一層卷積,，提取32種特征
W_conv1 = tf.Variable(tf.random_uniform([5, 5, 1, 32]))
b_conv1 = tf.constant(0.1, shape=[32])
h_conv1 = conv2d(input_data, W_conv1)
conv2d_relu1 = tf.nn.relu(h_conv1 + b_conv1)
pooling1 = max_pool_2x2(conv2d_relu1)
#第二層卷積,，提取64種特征
W_conv2 = tf.Variable(tf.random_uniform([5, 5, 32, 64]))
b_conv2 = tf.constant(0.1, shape=[64])
h_conv2 = conv2d(pooling1, W_conv2)
conv2d_relu2 = tf.nn.relu(h_conv2 + b_conv2)
pooling2 = max_pool_2x2(conv2d_relu2)
打印一下兩層卷積處理過程的數(shù)據(jù)變化，可以為：
sess = tf.InteractiveSession()
tf.global_variables_initializer().run()
print 'input_data: ', np.shape(input_data)
print 'conv2d_relu1:', np.shape(sess.run(conv2d_relu1))
print 'pooling1: ', np.shape(sess.run(pooling1))
print 'conv2d_relu2:', np.shape(sess.run(conv2d_relu2))
print 'pooling2: ', np.shape(sess.run(pooling2))
輸出結(jié)果：
input_data: (1, 28, 28, 1)
conv2d_relu1: (1, 28, 28, 32)
pooling1: (1, 14, 14, 32)
conv2d_relu2: (1, 14, 14, 64)
pooling2: (1, 7, 7, 64)
我們發(fā)現(xiàn)每一步運(yùn)行conv2d,，數(shù)據(jù)末尾的緯度值都會變成我們預(yù)先設(shè)定的特征值,，而結(jié)果經(jīng)過池化pooling，圖片的尺寸也是成半的減少
未完待續(xù)...
|
