yarn-site.xml文件詳細解析

一、yarn-site.xml文件介紹

yarn-site.xml文件是Apache Hadoop中YARN(Yet Another Resource Negotiator)框架的配置文件之一。該文件中包含了YARN的各種配置項,可以通過修改該文件設置YARN的運行參數。下面我們將從多個方面對yarn-site.xml文件進行詳細解析。

二、yarn-site.xml文件配置參數分類

yarn-site.xml文件中的配置參數可分為三類,分別是全局參數、ResourceManager參數和NodeManager參數。

1、全局參數

全局參數是指影響整個YARN系統的參數,如下為常用的幾個全局參數:

<property>
  <name>yarn.nodemanager.hostname</name>
  <value>localhost</value>
</property>
<property>
  <name>yarn.nodemanager.delete.debug-delay-sec</name>
  <value>0</value>
</property>
<property>
  <name>yarn.scheduler.minimum-allocation-mb</name>
  <value>1024</value>
</property>

2、ResourceManager參數

ResourceManager參數是指影響ResourceManager節點的參數,如下為常用的幾個ResourceManager參數:

<property>
  <name>yarn.resourcemanager.hostname</name>
  <value>localhost</value>
</property>
<property>
  <name>yarn.resourcemanager.webapp.address</name>
  <value>0.0.0.0:8088</value>
</property>
<property>
  <name>yarn.resourcemanager.webapp.https.address</name>
  <value></value>
</property>

3、NodeManager參數

NodeManager參數是指影響NodeManager節點的參數,如下為常用的幾個NodeManager參數:

<property>
  <name>yarn.nodemanager.local-dirs</name>
  <value>/data1/nodemgr-localdir</value>
</property>
<property>
  <name>yarn.nodemanager.resource.memory-mb</name>
  <value>4096</value>
</property>
<property>
  <name>yarn.nodemanager.log-dirs</name>
  <value>/data1/nodemgr-logs</value>
</property>

三、yarn-site.xml文件參數解釋

下面我們來介紹幾個常用的yarn-site.xml文件配置參數的解釋:

1、yarn.nodemanager.hostname

yarn.nodemanager.hostname指定了NodeManager節點的主機名或IP地址,默認情況下為本機IP地址。

<property>
  <name>yarn.nodemanager.hostname</name>
  <value>localhost</value>
</property>

2、yarn.nodemanager.resource.memory-mb

yarn.nodemanager.resource.memory-mb指定了NodeManager節點可以使用的最大內存,單位是MB。

<property>
  <name>yarn.nodemanager.resource.memory-mb</name>
  <value>4096</value>
</property>

3、yarn.scheduler.minimum-allocation-mb

yarn.scheduler.minimum-allocation-mb指定了YARN集群中所有節點分配內存的最小值,單位是MB。

<property>
  <name>yarn.scheduler.minimum-allocation-mb</name>
  <value>1024</value>
</property>

4、yarn.resourcemanager.webapp.address

yarn.resourcemanager.webapp.address指定了ResourceManager節點Web界面訪問地址,默認情況下為0.0.0.0:8088。

<property>
  <name>yarn.resourcemanager.webapp.address</name>
  <value>0.0.0.0:8088</value>
</property>

5、yarn.nodemanager.log-dirs

yarn.nodemanager.log-dirs指定了NodeManager節點的日誌輸出路徑。

<property>
  <name>yarn.nodemanager.log-dirs</name>
  <value>/data1/nodemgr-logs</value>
</property>

四、yarn-site.xml文件實例

yarn-site.xml文件的實例,包括全局參數、ResourceManager參數和NodeManager參數,如下所示:

<configuration>
  <property>
    <name>yarn.nodemanager.hostname</name>
    <value>localhost</value>
  </property>
  <property>
    <name>yarn.nodemanager.resource.memory-mb</name>
    <value>4096</value>
  </property>
  <property>
    <name>yarn.scheduler.minimum-allocation-mb</name>
    <value>1024</value>
  </property>
  <property>
    <name>yarn.resourcemanager.hostname</name>
    <value>localhost</value>
  </property>
  <property>
    <name>yarn.resourcemanager.webapp.address</name>
    <value>0.0.0.0:8088</value>
  </property>
  <property>
    <name>yarn.resourcemanager.webapp.https.address</name>
    <value></value>
  </property>
  <property>
    <name>yarn.nodemanager.local-dirs</name>
    <value>/data1/nodemgr-localdir</value>
  </property>
  <property>
    <name>yarn.nodemanager.log-dirs</name>
    <value>/data1/nodemgr-logs</value>
  </property>
</configuration>

原創文章,作者:小藍,如若轉載,請註明出處:https://www.506064.com/zh-tw/n/287086.html

(0)
打賞 微信掃一掃 微信掃一掃 支付寶掃一掃 支付寶掃一掃
小藍的頭像小藍
上一篇 2024-12-23 13:07
下一篇 2024-12-23 13:07

相關推薦

  • vue下載無後綴名的文件被加上後綴.txt,有後綴名的文件下載正常問題的解決

    本文旨在解決vue下載無後綴名的文件被加上後綴.txt,有後綴名的文件下載正常的問題,提供完整的代碼示例供參考。 一、分析問題 首先,需了解vue中下載文件的情況。一般情況下,我們…

    編程 2025-04-29
  • 如何在Java中拼接OBJ格式的文件並生成完整的圖像

    OBJ格式是一種用於表示3D對象的標準格式,通常由一組頂點、面和紋理映射坐標組成。在本文中,我們將討論如何將多個OBJ文件拼接在一起,生成一個完整的3D模型。 一、讀取OBJ文件 …

    編程 2025-04-29
  • Python程序文件的拓展

    Python是一門功能豐富、易於學習、可讀性高的編程語言。Python程序文件通常以.py為文件拓展名,被廣泛應用於各種領域,包括Web開發、機器學習、科學計算等。為了更好地發揮P…

    編程 2025-04-29
  • Python中讀入csv文件數據的方法用法介紹

    csv是一種常見的數據格式,通常用於存儲小型數據集。Python作為一種廣泛流行的編程語言,內置了許多操作csv文件的庫。本文將從多個方面詳細介紹Python讀入csv文件的方法。…

    編程 2025-04-29
  • 為什麼用cmd運行Java時需要在文件內打開cmd為中心

    在Java開發中,我們經常會使用cmd在命令行窗口運行程序。然而,有時候我們會發現,在運行Java程序時,需要在文件內打開cmd為中心,這讓很多開發者感到疑惑,那麼,為什麼會出現這…

    編程 2025-04-29
  • Python將矩陣存為CSV文件

    CSV文件是一種通用的文件格式,在統計學和計算機科學中非常常見,一些數據分析工具如Microsoft Excel,Google Sheets等都支持讀取CSV文件。Python內置…

    編程 2025-04-29
  • Python zipfile解壓文件亂碼處理

    本文主要介紹如何在Python中使用zipfile進行文件解壓的處理,同時詳細討論在解壓文件時可能出現的亂碼問題的各種解決辦法。 一、zipfile解壓文件亂碼問題的根本原因 在P…

    編程 2025-04-29
  • Python如何導入py文件

    Python是一種開源的高級編程語言,因其易學易用和強大的生態系統而備受青睞。Python的import語句可以幫助用戶將一個模塊中的代碼導入到另一個模塊中,從而實現代碼的重用。本…

    編程 2025-04-29
  • Python合併多個相同表頭文件

    對於需要合併多個相同表頭文件的情況,我們可以使用Python來實現快速的合併。 一、讀取CSV文件 使用Python中的csv庫讀取CSV文件。 import csv with o…

    編程 2025-04-29
  • Python寫文件a

    Python語言是一種功能強大、易於學習、通用並且高級編程語言,它具有許多優點,其中之一就是能夠輕鬆地進行文件操作。文件操作在各種編程中都佔有重要的位置,Python作為開發人員常…

    編程 2025-04-29

發表回復

登錄後才能評論