1.將輸入數(shù)據(jù)保存為TFRecord格式

__author__ = 'ding' ''' 將數(shù)據(jù)保存為TFRecord格式 ''' import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data import numpy as np# 生成整數(shù)型的屬性 def _int64_feature(value):return tf.train.Feature(int64_list=tf.train.Int64List(value=[value]))# 生成字符串型的屬性 def _bytes_feature(value):return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))mnist = input_data.read_data_sets('./path/to/mnist/data', dtype=tf.uint8, one_hot=True) images = mnist.train.images # 訓(xùn)練數(shù)據(jù)對(duì)應(yīng)的正確答案，作為一個(gè)屬性保存在TFRecord中 labels = mnist.train.labels # 訓(xùn)練數(shù)據(jù)的圖像分辨率，作為Example中的一個(gè)屬性 pixels = images.shape[1] num_examples = mnist.train.num_examples# 輸出文件的路徑 filename = './path/to/output.tfrecords' # 創(chuàng)建一個(gè)writer寫TFRecord文件 writer = tf.python_io.TFRecordWriter(filename) for index in range(num_examples):# 將圖像矩陣轉(zhuǎn)化成一個(gè)字符串image_raw = images[index].tostring()# 將一個(gè)樣例轉(zhuǎn)換成Example Protocol Buffer，并將所有信息寫入這個(gè)數(shù)據(jù)結(jié)構(gòu)example = tf.train.Example(features=tf.train.Features(feature={'pixels': _int64_feature(pixels),'label': _int64_feature(np.argmax(labels[index])),'image_raw':_bytes_feature(image_raw)}))# 將一個(gè)Example 寫入TFRecord文件writer.write(example.SerializeToString())writer.close()

在工程的/path/to目錄下生成一個(gè)output.tfrecord文件，這個(gè)文件就是輸入數(shù)據(jù)的TFRecord格式文件
此處注意 不要遺漏tf.train.Features后的s，為了不必要的錯(cuò)誤，需要仔細(xì)核對(duì)（掉過坑，所以提醒。。）

2.讀取TFRecord文件中的數(shù)據(jù)

__author__ = 'ding' ''' 讀取TFRecord文件中的數(shù)據(jù) ''' import tensorflow as tf# 創(chuàng)建一個(gè)reader來讀取TFRecord文件中的樣例 reader = tf.TFRecordReader()# 創(chuàng)建一個(gè)列隊(duì)來維護(hù)輸入文件列表 filename_queue = tf.train.string_input_producer(['./path/to/output.tfrecords']) # 從文件中讀取一個(gè)樣例，也可以使用read_up_to函數(shù)一次讀取多個(gè)樣例 _,serialized_example = reader.read(filename_queue)# 解析讀入的一個(gè)樣例，如果需要解析多個(gè)樣例，也可以使用parse_example函數(shù) features = tf.parse_single_example(serialized_example,features={# 解析方法與保存方法應(yīng)該一致，避免報(bào)錯(cuò)# TensorFlow 有兩種屬性解析的方法，# tf.FixedLenGeature, 解析結(jié)果為一個(gè)Tensor# tf.VarLenFrature，解析結(jié)果為SparseTensor,用于稀疏處理'image_raw':tf.FixedLenFeature([],tf.string),'pixels':tf.FixedLenFeature([],tf.int64),'label':tf.FixedLenFeature([],tf.int64)})# tf.decode_raw 可以將字符串解析成圖像對(duì)應(yīng)的像素?cái)?shù)組 images = tf.decode_raw(features['image_raw'],tf.uint8) labels = tf.cast(features['label'],tf.int32) pixels = tf.cast(features['pixels'],tf.int32)sess = tf.Session() # 啟用多線程處理 coord = tf.train.Coordinator() threads = tf.train.start_queue_runners(sess=sess,coord=coord)# 每次運(yùn)行可以讀取TFRecord文件中的一個(gè)樣例，當(dāng)所有樣例讀完之后，此樣例中程序會(huì)在重頭讀取 for i in range(10):images,labels,pixels = sess.run([images,labels,pixels]) has invalid type <class 'numpy.ndarray'>, must be a string or Tensor ***原因：變量命名重復(fù)了

總結(jié)

以上是生活随笔為你收集整理的TFRecord 统一数据格式的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。