转---hadoop2.x常用端口、定义方法及默认端口

hadoop2.x常用端口、定义方法及默认端口

 

Hadoop集群的各部分一般都会使用到多个端口,有些是daemon之间进行交互之用,有些是用于RPC访问以及HTTP访问。而随着Hadoop周边组件的增多,完全记不住哪个端口对应哪个应用,特收集记录如此,以便查询。
这里包含我们使用到的组件:HDFS, YARN, HBase, Hive, ZooKeeper:
组件节点默认端口配置用途说明
HDFSDataNode50010dfs.datanode.addressdatanode服务端口,用于数据传输
HDFSDataNode50075dfs.datanode.http.addresshttp服务的端口
HDFSDataNode50475dfs.datanode.https.addresshttps服务的端口
HDFSDataNode50020dfs.datanode.ipc.addressipc服务的端口
HDFSNameNode50070dfs.namenode.http-addresshttp服务的端口
HDFSNameNode50470dfs.namenode.https-addresshttps服务的端口
HDFSNameNode8020fs.defaultFS接收Client连接的RPC端口,用于获取文件系统metadata信息。
HDFSjournalnode8485dfs.journalnode.rpc-addressRPC服务
HDFSjournalnode8480dfs.journalnode.http-addressHTTP服务
HDFSZKFC8019dfs.ha.zkfc.portZooKeeper FailoverController,用于NN HA
YARNResourceManager8032yarn.resourcemanager.addressRM的applications manager(ASM)端口
YARNResourceManager8030yarn.resourcemanager.scheduler.addressscheduler组件的IPC端口
YARNResourceManager8031yarn.resourcemanager.resource-tracker.addressIPC
YARNResourceManager8033yarn.resourcemanager.admin.addressIPC
YARNResourceManager8088yarn.resourcemanager.webapp.addresshttp服务端口
YARNNodeManager8040yarn.nodemanager.localizer.addresslocalizer IPC
YARNNodeManager8042yarn.nodemanager.webapp.addresshttp服务端口
YARNNodeManager8041yarn.nodemanager.addressNM中container manager的端口
YARNJobHistory Server10020mapreduce.jobhistory.addressIPC
YARNJobHistory Server19888mapreduce.jobhistory.webapp.addresshttp服务端口
HBaseMaster60000hbase.master.portIPC
HBaseMaster60010hbase.master.info.porthttp服务端口
HBaseRegionServer60020hbase.regionserver.portIPC
HBaseRegionServer60030hbase.regionserver.info.porthttp服务端口
HBaseHQuorumPeer2181hbase.zookeeper.property.clientPortHBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。
HBaseHQuorumPeer2888hbase.zookeeper.peerportHBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。
HBaseHQuorumPeer3888hbase.zookeeper.leaderportHBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。
HiveMetastore9083/etc/default/hive-metastore中export PORT=<port>来更新默认端口 
HiveHiveServer10000/etc/hive/conf/hive-env.sh中export HIVE_SERVER2_THRIFT_PORT=<port>来更新默认端口 
ZooKeeperServer2181/etc/zookeeper/conf/zoo.cfg中clientPort=<port>对客户端提供服务的端口
ZooKeeperServer2888/etc/zookeeper/conf/zoo.cfg中server.x=[hostname]:nnnnn[:nnnnn],标蓝部分follower用来连接到leader,只在leader上监听该端口。
ZooKeeperServer3888/etc/zookeeper/conf/zoo.cfg中server.x=[hostname]:nnnnn[:nnnnn],标蓝部分

用于leader选举的。只在electionAlg是1,2或3(默认)时需要。

 
Hadoop2.x与Hadoop3.x的默认端口变化 最近配置Hadoop3.x集群的时候发现了一些端口变动,导致web访问UI界面失败,查阅资料写个帖子记录分析一下。 Namenode 端口: 2.x端口 3.x端口 name desc 50470 9871 dfs.namenode.https-address The namenode secure http server address and port. 50070 987... 阅读详情

相关推荐

Hadoop 1.x(单namenode)版本中默认端口介绍

在单namenode的Hadoop1.x版本中,默认端口有9个,具体如下表所示: 角色 名称 端口 位置 描述 namenode fs.default.name 9000 core-site.xml namenode RPC交互端口 namenode dfs.http.address 50070 hdfs-site.xml

1628

Hadoop常见端口号及配置文件

Hadoop常用端口及配置文件

m0_70962682的博客 9323

Hadoop常用端口

需要注意的是,以上端口号列表并非所有 Hadoop 组件的完整列表,不同版本和配置的 Hadoop 可能会使用不同的端口号。在使用 Hadoop 时,需要根据具体的环境和配置进行相应的端口号配置和调整。Hadoop 是一个由多个组件构成的分布式系统,每个组件都会使用一些特定的端口号来进行通信和交互。

CSDN 精品推荐 2434

Hadoop 常用端口

请注意,这些是Hadoop组件的标准默认端口,实际部署过程中可以根据需要在配置文件中修改。同时,不同版本的Hadoop可能对某些端口有所调整,请以具体部署环境的实际配置为准。

代妈炼金术师 3902

Hadoop常用端口

hadoop3.x HDFS NameNode 内部通常端口:8020、9000、9820 HDFS NameNode 对用户的查询端口:9870 Yarn查看任务运行情况的端口:8088 历史服务器:19888 HDFS NameNode 对用户的查询端口:9870,经常查看目录信息,如下图,刚刚上传了两个lzo文件。 ...

weixin_44484668的博客 6168

hadoop2.x常用端口定义方法

Hadoop集群的各部分一般都会使用到多个端口,有些是daemon之间进行交互之用,有些是用于RPC访问以及HTTP访问。而随着Hadoop周边组件的增多,完全记不住哪个端口对应哪个应用,特收集记录如此,以便查询。 这里包含我们使用到的组件:HDFS, YARN, HBase, Hive, ZooKeeper: 组件 节点 默认端口 配置 用途说明 HDFS

spring8743的专栏 819

hadoop2.x常用端口定义方法默认端口hadoop1.X端口对比(

hadoop2.x常用端口定义方法默认端口hadoop1.X端口对比 问题导读: 1.DataNode的http服务的端口、ipc服务的端口分别是哪个? 2.NameNode的http服务的端口、ipc服务的端口分别是哪个? 3.journalnode的http服务的端口、ipc服务的端口分别是哪个? 4.ResourceManager的http

雲的博客 770

Hadoop 1.X & Hadoop 2.X 默认端口对比

1,Hadoop 2.X 默认端口 组件 节点 默认端口 配置 用途说明 HDFS DataNode 50010 dfs.datanode.address datanode服务端口,用于数据传输 HDFS DataNode 50075 dfs.datanode.http.address http服务的端口 HDFS Data

二十三小时 2180

hadoop2.x常用端口定义方法默认端口hadoop1.X端口对比

问题导读: 1.DataNode的http服务的端口、ipc服务的端口分别是哪个? 2.NameNode的http服务的端口、ipc服务的端口分别是哪个? 3.journalnode的http服务的端口、ipc服务的端口分别是哪个? 4.ResourceManager的http服务端口是哪个? 5.NodeManager的http服务端口是哪个? 6.Master的http服务的端口

A_lele123的专栏 1165

hadoop生态圈中一些端口用途

hadoop生态圈中一些端口用途

米二的博客 963

Hadoop学习

bin/bash#1. 判断参数个数thenexit;fi#2. 遍历集群所有机器do#3. 遍历所有目录,挨个发送do#4. 判断文件是否存在then#5. 获取父目录pwd)#6. 获取当前文件的名称elsefidonedone停historyserver单节点1**)各个模块分开启动****/停止(配置ssh是前提)常用**(1)整体启动/停止HDFS(2)整体启动/停止YARN2**)各个服务组件逐一启动****/**停止。

qq_46143063的博客 1751

Hadoop 端口号及常用配置文件

hadoop3.x:HDFS NameNode 内部通常端口:8020 / 9000 / 9820HDFS NameNode 对用户的查询端口: 9870Yarn查看任务运行情况的端口: 8088历史服务器: 19888hadoop2.x:HDFS NameNode 内部通常端口:8020 / 9000HDFS NameNode 对用户的查询端口: 50070Yarn查看任务运行情况的端口: 8088历史服务器: 19888。

m0_63648117的博客 1733

Hadoop数仓中常用端口详解:(第36天)

在数仓(数据仓库)开发中,不同的组件和服务会使用不同的端口号进行通信。由于数仓的实现可能依赖于多种技术和框架(如Hadoop、Hive、HBase、Spark等),因此涉及的端口号也会有所不同。以下是一些数仓开发中常用端口号及其作用的概述,以及相关的操作指令建议。常用端口号及其作用。

syhiiu的博客 4378
上一篇: 大数据学习笔记20:hadoop2.4.1伪分布式搭建
下一篇: sort | uniq -c | sort -rnk 1
terrorist2008
博客等级 码龄19年 6粉丝 125原创
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值