中国唯一一家专业只做ARACLE认证和BDA实训的甲骨文金牌合作企业
中国唯一一家专业只做ARACLE认证和BDA实训的甲骨文金牌合作企业
Hadoop培训课程：Pig搭建环境、安装与应用
1、搭建环境
部署节点操作系统为CentOS，防火墙和SElinux禁用，创建了一个shiyanlou用户并在系统根目录下创建/app目录，用于存放Hadoop等组件运行包。因为该目录用于安装Hadoop等组件程序，用户对shiyanlou必须赋予rwx权限(一般做法是root用户在根目录下创建/app目录，并修改该目录拥有者为shiyanlou(chown –R shiyanlou:shiyanlou /app)。
Hadoop搭建环境：
l 虚拟机操作系统： CentOS6.6 64位，单核，1G内存
l JDK：1.7.0_55 64位
l Hadoop：1.1.2
2、Pig介绍
Pig是yahoo捐献给apache的一个项目，使用SQL-like语言，是在MapReduce上构建的一种高级查询语言，把一些运算编译进MapReduce模型的Map和Reduce中。Pig 有两种运行模式： Local 模式和 MapReduce 模式
l 本地模式：Pig运行于本地模式，只涉及到单独的一台计算机
l MapReduce模式：Pig运行于MapReduce模式，需要能访问一个Hadoop集群，并且需要装上HDFS
Pig的调用方式：
l Grunt shell方式：通过交互的方式，输入命令执行任务;
l Pig script方式：通过script脚本的方式来运行任务;
嵌入式方式：嵌入Java源代码中，通过Java调用来运行任务。
3、搭建Pig环境
3.1 下载并解压安装包
在Apache下载最新的Pig软件包，点击下载会推荐最快的镜像站点，以下为下载地址：http://mirror.bit.edu.cn/apache/pig/
也可以在/home/shiyanlou/install-pack目录中找到该安装包，解压该安装包并把该安装包复制到/app目录中
cd /home/shiyanlou/install-pack
tar -xzf pig-0.13.0.tar.gz
mv pig-0.13.0 /app
3.2 设置环境变量
使用如下命令编辑/etc/profile文件：
sudo vi /etc/profile
设置pig的class路径和在path加入pig的路径，其中PIG_CLASSPATH参数是设置pig在MapReduce工作模式：
export PIG_HOME=/app/pig-0.13.0
export PIG_CLASSPATH=/app/hadoop-1.1.2/conf
export PATH=$PATH:$PIG_HOME/bin
编译配置文件/etc/profile，并确认生效
source /etc/profile
echo $PATH
3.3 验证安装完成
重新登录终端，确保Hadoop集群启动，键入pig命令，应该能看到pig连接到Hadoop集群的信息并且进入了grunt shell命令行模式：
CUUG 优技培训
CUUG －CHINA UNIX USER GROUP，是国际UNIX组织UNIFORUM的中国代表，是国内悠久的专业UNIX培训机构，被誉为中国UNIX 的摇篮。金牌讲师
实操环境
院校合作
学校新闻
行业新闻
请输入您的手机号
申请试听
