伪分布修改配置文件|什么叫hadoop伪分布 是一台主机里有虚拟机这样

❶ 虚拟机centos单机hadoop安装完成后怎么配置hadoop伪分布集群

伪分布式集群指的是在一台机群上搭建Hadoop集群,你有三台机器的话就直接搭建全分布是集群就可以了。你说你在CentOs单机安装好hadoop是什么意思,指的是单机模式吗?那集群就把你现在安装好的hadoop目录到另外两台机器上,然后配置好SSH免密码登陆,以及确定哪台机器作为namenode和jobtracker,配置好core-site.xml,hdfs-site.xml,mapred-site.xml以及master和slaver文件即可。具体步骤还请参考网上文章

❷ centos 7一台服务器怎么安装hadoop伪分布

安装步骤1、首先下载安装包tar zxvf hadoop-2.7.1.tar.gz2.在虚拟机中解压安装包3.安装目录下创建数据存放的文件夹,tmp、hdfs、hdfs/data、hdfs/name4、修改/home/yy/hadoop-2.7.1/etc/hadoop下的配置文件修改core-site.xml,加上fs.defaultFShdfs://s204:9000hadoop.tmp.dirfile:/home/yy/hadoop-2.7.1/tmpio.file.buffer.size1317025.修改hdfs-site.xml,加上dfs.namenode.name.dirfile:/home/yy/hadoop-2.7.1/dfs/namedfs.datanode.data.dirfile:/home/yy/hadoop-2.7.1/dfs/datadfs.replication2dfs.namenode.secondary.http-addresss204:9001dfs.webhdfs.enabledtrue6.修改mapred-site.xml,加上maprece.framework.nameyarnmaprece.jobhistory.addresss204:10020maprece.jobhistory.webapp.addresss204:198887.修改yarn-site.xml,加上yarn.nodemanager.aux-servicesmaprece_shuffleyarn.nodemanager.auxservices.maprece.shuffle.classorg.apache.hadoop.mapred.ShuffleHandleryarn.resourcemanager.addresss204:8032yarn.resourcemanager.scheler.addresss204:8030yarn.resourcemanager.resource-tracker.addresss204:8031yarn.resourcemanager.admin.addresss204:8033yarn.resourcemanager.webapp.addresss204:8088yarn.nodemanager.resource.memory-mb7688、配置/home/yy/hadoop-2.7.1/etc/hadoop目录下hadoop-env.sh、yarn-env.sh的java_HOME,否则启动时会报errorexport JAVA_HOME=/home/yy/jdk1.89.配置/home/yy/hadoop-2.7.1/etc/hadoop目录下slaves加上你的从服务器,我这里只有一个s205配置成功后,将hadhoop复制到各个从服务器上scp -r /home/yy/hadoop-2.7.1 [email protected]:/home/yy/10.主服务器上执行bin/hdfs namenode -format进行初始化sbin目录下执行 ./start-all.sh可以使用jps查看信息停止的话,输入命令,sbin/stop-all.sh11.这时可以浏览器打开s204:8088查看集群信息啦到此配置完成hadoop

❸ hadoop伪分布模式只要在一台虚拟机上配置吗其他的呢

是的,伪分布式是在一台电脑上配置的,就是你这台电脑既要配namenode和datenode还有一些服务,还有就是分布式,你可以用虚拟机在电脑上构建liunx系统来配置多台虚拟机,达到集群效果,

❹ 如何在Linux上安装与配置Hadoop-IT168 技术开发专区

在Linux上安装Hadoop之前,需要先安装两个程序:1. JDK 1.6或更高版本;2. SSH(安全外壳协议),推荐安装OpenSSH。下面简述一下安装这两个程序的原因:1. Hadoop是用Java开发的,Hadoop的编译及MapRece的运行都需要使用JDK。2. Hadoop需要通过SSH来启动salve列表中各台主机的守护进程,因此SSH也是必须安装的,即使是安装伪分布式版本(因为Hadoop并没有区分集群式和伪分布式)。对于伪分布式,Hadoop会采用与集群相同的处理方式,即依次序启动文件conf/slaves中记载的主机上的进程,只不过伪分布式中salve为localhost(即为自身),所以对于伪分布式Hadoop,SSH一样是必须的。一、安装JDK 1.6安装JDK的过程很简单,下面以Ubuntu为例。(1)下载和安装JDK确保可以连接到互联网,输入命令:sudo apt-get install sun-java6-jdk输入密码,确认,然后就可以安装JDK了。这里先解释一下sudo与apt这两个命令,sudo这个命令允许普通用户执行某些或全部需要root权限命令,它提供了详尽的日志,可以记录下每个用户使用这个命令做了些什么操作;同时sudo也提供了灵活的管理方式,可以限制用户使用命令。sudo的配置文件为/etc/sudoers。apt的全称为the Advanced Packaging Tool,是Debian计划的一部分,是Ubuntu的软件包管理软件,通过apt安装软件无须考虑软件的依赖关系,可以直接安装所需要的软件,apt会自动下载有依赖关系的包,并按顺序安装,在Ubuntu中安装有apt的一个图形化界面程序synaptic(中文译名为“新立得”),大家如果有兴趣也可以使用这个程序来安装所需要的软件。(如果大家想了解更多,可以查看一下关于Debian计划的资料。)(2)配置环境变量输入命令:sudo gedit /etc/profile输入密码,打开profile文件。在文件的最下面输入如下内容:#set Java Environmentexport JAVA_HOME= (你的JDK安装位置,一般为/usr/lib/jvm/java-6-sun)export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"export PATH="$JAVA_HOME/:$PATH"这一步的意义是配置环境变量,使你的系统可以找到JDK。(3)验证JDK是否安装成功输入命令:java -version查看信息:java version "1.6.0_14"Java(TM) SE Runtime Environment (build 1.6.0_14-b08)Java HotSpot(TM) Server VM (build 14.0-b16, mixed mode)二、配置SSH免密码登录同样以Ubuntu为例,假设用户名为u。1)确认已经连接上互联网,输入命令sudo apt-get install ssh2)配置为可以无密码登录本机。首先查看在u用户下是否存在.ssh文件夹(注意ssh前面有“.”,这是一个隐藏文件夹),输入命令:ls -a /home/u一般来说,安装SSH时会自动在当前用户下创建这个隐藏文件夹,如果没有,可以手动创建一个。接下来,输入命令:ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa解释一下,ssh-keygen代表生成密钥;-t(注意区分大小写)表示指定生成的密钥类型;dsa是dsa密钥认证的意思,即密钥类型;-P用于提供密语;-f指定生成的密钥文件。(关于密钥密语的相关知识这里就不详细介绍了,里面会涉及SSH的一些知识,如果读者有兴趣,可以自行查阅资料。)在Ubuntu中,~代表当前用户文件夹,这里即/home/u。这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub,这是SSH的一对私钥和公钥,类似于钥匙及锁,把id_dsa.pub(公钥)追加到授权的key里面去。输入命令:cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys这段话的意思是把公钥加到用于认证的公钥文件中,这里的authorized_keys是用于认证的公钥文件。至此无密码登录本机已设置完毕。3)验证SSH是否已安装成功,以及是否可以无密码登录本机。输入命令:ssh -version显示结果:OpenSSH_5.1p1 Debian-6ubuntu2, OpenSSL 0.9.8g 19 Oct 2007Bad escape character 'rsion'.显示SSH已经安装成功了。输入命令:ssh localhost会有如下显示:The authenticity of host 'localhost (::1)' can't be established.RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77.Are you sure you want to continue connecting (yes/no)? yesWarning: Permanently added 'localhost' (RSA) to the list of known hosts.Linux master 2.6.31-14-generic #48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2009 i686To access official Ubuntu documentation, please visit:http://help.ubuntu.com/Last login: Mon Oct 18 17:12:40 2010 from master[email protected]:~$这说明已经安装成功,第一次登录时会询问你是否继续链接,输入yes即可进入。实际上,在Hadoop的安装过程中,是否无密码登录是无关紧要的,但是如果不配置无密码登录,每次启动Hadoop,都需要输入密码以登录到每台机器的DataNode上,考虑到一般的Hadoop集群动辄数百台或上千台机器,因此一般来说都会配置SSH的无密码登录。三、安装并运行Hadoop介绍Hadoop的安装之前,先介绍一下Hadoop对各个节点的角色定义。Hadoop分别从三个角度将主机划分为两种角色。第一,划分为master和slave,即主人与奴隶;第二,从HDFS的角度,将主机划分为NameNode和DataNode(在分布式文件系统中,目录的管理很重要,管理目录的就相当于主人,而NameNode就是目录管理者);第三,从MapRece的角度,将主机划分为JobTracker和TaskTracker(一个job经常被划分为多个task,从这个角度不难理解它们之间的关系)。Hadoop有官方发行版与cloudera版,其中cloudera版是Hadoop的商用版本,这里先介绍Hadoop官方发行版的安装方法。Hadoop有三种运行方式:单节点方式、单机伪分布方式与集群方式。乍看之下,前两种方式并不能体现云计算的优势,在实际应用中并没有什么意义,但是在程序的测试与调试过程中,它们还是很有意义的。你可以通过以下地址获得Hadoop的官方发行版:http://www.apache.org/dyn/closer.cgi/Hadoop/core/下载Hadoop-0.20.2.tar.gz并将其解压,这里会解压到用户目录下,一般为:/home/[你的用户名]/。单节点方式配置:安装单节点的Hadoop无须配置,在这种方式下,Hadoop被认为是一个单独的Java进程,这种方式经常用来调试。伪分布式配置:你可以把伪分布式的Hadoop看做是只有一个节点的集群,在这个集群中,这个节点既是master,也是slave;既是NameNode也是DataNode;既是JobTracker,也是TaskTracker。伪分布式的配置过程也很简单,只需要修改几个文件,如下所示。进入conf文件夹,修改配置文件:Hadoop-env.sh:export JAVA_HOME=“你的JDK安装地址”指定JDK的安装位置:conf/core-site.xml:<configuration> <property> <name>fs.default.name</name> <value>hdfs://localhost:9000</value> </property></configuration>这是Hadoop核心的配置文件,这里配置的是HDFS的地址和端口号。conf/hdfs-site.xml:<configuration> <property> <name>dfs.replication</name> <value>1</value> </property></configuration>这是Hadoop中HDFS的配置,配置的备份方式默认为3,在单机版的Hadoop中,需要将其改为1。conf/mapred-site.xml:<configuration> <property> <name>mapred.job.tracker</name> <value>localhost:9001</value> </property></configuration>这是Hadoop中MapRece的配置文件,配置的是JobTracker的地址和端口。需要注意的是,如果安装的是0.20之前的版本,那么只有一个配置文件,即为Hadoop-site.xml。接下来,在启动Hadoop前,需格式化Hadoop的文件系统HDFS(这点与Windows是一样的,重新分区后的卷总是需要格式化的)。进入Hadoop文件夹,输入下面的命令:bin/Hadoop NameNode -format格式化文件系统,接下来启动Hadoop。输入命令:bin/start-all.sh(全部启动)最后,验证Hadoop是否安装成功。打开浏览器,分别输入网址:http://localhost:50030 (MapRece的Web页面)http://localhost:50070 (HDFS的Web页面)如果都能查看,说明Hadoop已经安装成功。对于Hadoop来说,安装MapRece及HDFS都是必须的,但是如果有必要,你依然可以只启动HDFS(start-dfs.sh)或MapRece(start-mapred.sh)。

❺ hadoop单机模式和伪分布式模式的异同

1、运行模式不同:

单机模式是Hadoop的默认模式。这种模式在一台单机上运行,没有分布式文件系统,而是直接读写本地操作系统的文件系统。

伪分布模式这种模式也是在一台单机上运行,但用不同的Java进程模仿分布式运行中的各类结点。

2、配置不同:

单机模式(standalone)首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。

伪分布模式在“单节点集群”上运行Hadoop,其中所有的守护进程都运行在同一台机器上。

3、节点交互不同:

单机模式因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapRece程序的应用逻辑。

伪分布模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入输出,以及其他的守护进程交互。

(5)伪分布修改配置文件扩展阅读:

核心架构:

1、HDFS:

HDFS对外部客户机而言,HDFS就像一个传统的分级文件系统。可以创建、删除、移动或重命名文件,等等。存储在 HDFS 中的文件被分成块,然后将这些块复制到多个计算机中(DataNode)。这与传统的 RAID 架构大不相同。块的大小和复制的块数量在创建文件时由客户机决定。

2、NameNode

NameNode 是一个通常在 HDFS 实例中的单独机器上运行的软件。它负责管理文件系统名称空间和控制外部客户机的访问。NameNode 决定是否将文件映射到 DataNode 上的复制块上。

3、DataNode

DataNode 也是在 HDFS实例中的单独机器上运行的软件。Hadoop 集群包含一个 NameNode 和大量 DataNode。DataNode 通常以机架的形式组织,机架通过一个交换机将所有系统连接起来。Hadoop 的一个假设是:机架内部节点之间的传输速度快于机架间节点的传输速度。

❻ 为什么搭建hadoop伪分布模式后data文件夹里什么文件也没有

data目录是要存储HDFS的文件内容的,而name目录只是存放HDFS文件系统的元数据的,比如文件的块分布情况。如果你将一个文件从本地文件系统拷贝到HDFS文件系统中,那么data目录就有内容了。

❼ 什么叫hadoop伪分布 ,是一台主机里有虚拟机这样

伪分布模式也是在一台单机上运行,但用不同的 Java 进程模仿分布式运行中的各类结点 ( NameNode, DataNode, JobTracker, TaskTracker, Secondary NameNode ),分布式运行中的这几个结点的区别: 从分布式存储的角度来说,集群中的结点由一个 NameNode 和若干个 DataNode 组成, 另有一个 Secondary NameNode 作为 NameNode 的备份。 从分布式应用的角度来说,集群中的结点由一个 JobTracker 和若干个 TaskTracker 组成,JobTracker 负责任务的调度,TaskTracker 负责并行执行任务。TaskTracker 必须运行在 DataNode 上,这样便于数据的本地计算。JobTracker 和 NameNode 则无须在同一台机器上。伪分布模式安装步骤:1.解压到某目录下并设置JAVA_HOME。2.修改配置文件:a)修改conf/core-site.xml:<configuration> <property> <name>fs.default.name</name> <value>hdfs://localhost:9000</value> </property> </configuration> b)修改conf/mapred-site.xml:<configuration> <property> <name>mapred.job.tracker</name> <value>localhost:9001</value> </property> </configuration>c)修改conf/hdfs-site.xml:<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration> #参数 fs.default.name 指定 NameNode 的 IP 地址和端口号。缺省值是 file:///, 表示使用本地文件系统, 用于单机非分布式模式。此处我们指定使用运行于本机 localhost 上的 NameNode。 #参数 mapred.job.tracker 指定 JobTracker 的 IP 地址和端口号。缺省值是 local, 表示在本地同一 Java 进程内执行 JobTracker 和 TaskTracker, 用于单机非分布式模式。此处我们指定使用运行于本机 localhost 上的 JobTracker ( 用一个单独的 Java 进程做 JobTracker )。 #参数 dfs.replication 指定 HDFS 中每个 Block 被复制的次数,起数据冗余备份的作用。 在典型的生产系统中,这个数常常设置为3。

❽ 虚拟机+ubuntu11.04环境下配置伪分布的hadoop,在执行到启动hadoop步骤时 bin/start-all.sh 时出错

是Jobtracker没有执行起来,我用0.20.203的版本也是这样。一样的提示,找不到server类。namenode和datanode都能正常运行,但是jobtracker启不来。怀疑那个版本的jar包里面有问题,可能需要重新编译才行。如果是别的原因,希望高手给予解答。现在还一直使用0.20.2版本的,没有问题。新出的0.20.204和0.20.205版本都没有试过。另外:“[email protected]'s password:”说明ssh互信没有建立起来。执行ssh-keygen -t dsa出现提示都回车就行。cd ~/.sshcat id_dsa.pub >> authorized_keys然后ssh localhost如果不需要密码就是设置成功了。如果不成功,检查authorized_keys和.ssh目录的权限chmod 644 authorized_keyscd ~chmod 700 .ssh应该就可以了。以后一起学习、讨论hadoop哈。

❾ Ubuntu安装的hadoop(伪分布) 主节点IP地址换了后,名字节点启动不了

新修改的 192.168.1.106 这个节点上,有hadoop这个用户吗,并且hadoop用户名和密码配置要正确。看你的日志报错应该是权限的问题,hadoop启动是必须使用hadoop这个用户的。

❿ ubuntu12.04下hadoop伪分布模式下/etc/hosts文件怎么配置

全部使用localhost,然后在hosts文件中添加localhost对127.0.0.1的映射关系


赞 (0)