如何使用tf.summary.histogram記錄數據分布

一、什麼是tf.summary.histogram

在TensorFlow中，tf.summary.histogram是一種用於跟蹤變數和張量分布的TensorBoard摘要類型。這個方法可以在TensorBoard中顯示任何給定張量的分布，因此我們可以很好地了解模型中每個變數的狀態。

histogram用於顯示某個變數的取值分布情況，通過它可以更好的觀察變數取值的跨度、分布和偏離情況，方便調優和發現異常情況。

二、如何使用tf.summary.histogram

使用tf.summary.histogram記錄變數在TensorBoard中的分布只需要將summar_writer和tf.summary.histogram用於變數的更新，當然可能為了獲得更好的觀察效果你可以根據需要設置其他參數。

# 其中scalar, image, text 和 audio 四種不同的 summary 類型不再贅述。
with tf.name_scope('summaries'):
    tf.summary.histogram('MSE_per_batch', mse_batch)
    tf.summary.scalar('loss', loss)
    tf.summary.histogram('weights1', weights1)
    tf.summary.histogram('weights2', weights2)
    tf.summary.histogram('grads', grads)
    tf.summary.histogram('grad_hist', grad_hist)
    tf.summary.histogram('activation', y)
    tf.summary.scalar('ave_activations', tf.reduce_mean(y))
    tf.summary.scalar('max_activations', tf.reduce_max(y))
    tf.summary.scalar('min_activations', tf.reduce_min(y))
    tf.summary.scalar('sparsity', tf.nn.zero_fraction(layer1))
    merged = tf.summary.merge_all()

三、tf.summary.histogram參數詳解

在使用tf.summary.histogram的時候，我們一般需要了解其主要參數，以便更好的記錄變數分布，下面我們來詳細介紹一下：

1. 名稱（name）

可選項。摘要的名稱，這個名稱將會在TensorBoard中展示，以便你能夠更好地識別你所記錄的是什麼數據。需要注意的是，相同名稱的摘要將會被合併展示在一起。

2. 容器（family）

可選項。為了更好的管理你的摘要信息，你可以將他們存放在同一個容器中。通過使用family參數，你可以將摘要分組在一起。

3. 值（values）

必選項，這是需要記錄的數據，tensorflow輸入的是張量類型的值。這個張量代表了需要記錄的變數。通常情況下，如果你需要記錄的是一個權重張量的話，那麼使用tf.summary.histogram和這個張量的名字就可以工作了。如果你想要查看多個變數，可以分別使用多個tf.summary.histogram().

4. 子圖（collections）

可選項。有時候，你希望在不同的子圖（如train/train_or_test）中記錄摘要的值。你可以使用collections參數實現這個功能。

5. 優先順序（priority）

可選項。默認情況下，摘要的優先順序為0。如果你有多個摘要要記錄，那麼按照你輸入的順序每個摘要的優先順序+1。

四、總結

在本文中，我們學習了如何使用tf.summary.histogram記錄TensorFlow變數的分布，同時也了解了tf.summary.histogram的主要參數。