用户
 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
查看: 1271|回复: 0

Pig 编程指南

[复制链接]

394

主题

412

帖子

2069

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
2069

活跃会员热心会员推广达人宣传达人灌水之王突出贡献优秀版主荣誉管理论坛元老

发表于 2016-7-1 09:30:27 | 显示全部楼层 |阅读模式

Screen Shot 2016-07-01 at 9.29.03 AM.png

第1章 初识Pig
1.1 Pig是什么?
1.1.1 Pig是基于Hadoop的
1.1.2 Pig Latin,一种并行数据流语言
1.1.3 Pig的用途
1.1.4 Pig的设计思想
1.2 Pig发展简史

第2章 安装和运行Pig
2.1 下载和安装Pig
2.1.1 从Apache下载Pig软件包
2.1.2 从Cloudera下载Pig
2.1.3 使用Maven下载Pig
2.1.4 下载Pig源码
2.2 运行Pig
2.2.1 本地单机运行Pig
2.2.2 在Hadoop集群上运行Pig
2.2.3 在云服务上运行Pig
2.2.4 命令行使用以及配置选项介绍
2.2.5 返回码

第3章 命令行交互工具Grunt
3.1 在Grunt中输入Pig Latin脚本
3.2 在Grunt中使用HDFS命令
3.3 在Grunt中控制Pig

第4章 Pig数据模型
4.1 数据类型
4.1.1 基本类型
4.1.2 复杂类型
4.1.3 NULL值
4.2 模式

第5章 Pig Latin介绍
5.1 基础知识
5.1.1 大小写敏感
5.1.2 注释
5.2 输入和输出
5.2.1 加载
5.2.2 存储
5.2.3 输出
5.3 关系操作
5.3.1 foreach
5.3.2 Filter
5.3.3 Group
5.3.4 Order by
5.3.5 Distinct
5.3.6 Join
5.3.7 Limit
5.3.8 Sample
5.3.9 Parallel
5.4 用户自定义函数UDF
5.4.1 注册UDF
5.4.2 define命令和UDF
5.4.3 调用静态Java函数

第6章 Pig Latin高级应用
6.1 高级关系操作
6.1.1 foreach的高级功能
6.1.2 使用不同的Join实现方法
6.1.3 cogroup
6.1.4 union
6.1.5 cross
6.2 在Pig中集成遗留代码和MapReduce程序
6.2.1 stream
6.2.2 mapreduce
6.3 非线性数据流
6.4 执行过程控制
6.4.1 set
6.4.2 设置分割器
6.5 Pig Latin预处理器
6.5.1 参数传入
6.5.2 宏
6.5.3 包含其他的Pig Latin脚本

第7章 开发和测试Pig Latin脚本
7.1 开发工具
7.1.1 语法高亮和语法检查
7.1.2 describe
7.1.3 explain
7.1.4 illustrate
7.1.5 Pig统计信息
7.1.6 MapReduce任务运行状态信息
7.1.7 调试技巧
7.2 使用PigUnit测试用户的脚本

第8章 让Pig飞起来
8.1 编写优质的脚本
8.1.1 尽早地并经常地进行过滤
8.1.2 尽早地并经常地进行映射
8.1.3 正确并合理使用join
8.1.4 适当的情况下使用multiquery
8.1.5 选择正确的数据类型
8.1.6 选择合适的并行值
8.2 编写优质的UDF
8.3 调整Pig和Hadoop
8.4 对计算中间结果进行压缩
8.5 数据层优化
8.6 垃圾数据处理

第9章 在Python中嵌入Pig Latin脚本
9.1 编译
9.2 绑定
9.3 运行
9.4 工具方法

第10章 编写评估函数和过滤函数
10.1 使用Java编写评估函数
10.1.1 UDF将在哪里执行
10.1.2 求值函数基本概念
10.1.3 输入和输出模式
10.1.4 错误处理和处理过程信息报告
10.1.5 构造器和将数据从前端传送到后端
10.1.6 重载UDF
10.1.7 运算函数的内存问题
10.2 代数运算接口
10.3 累加器接口
10.4 使用Python写UDF
10.5 书写过滤器函数

第11章 编写加载函数和存储函数
11.1 加载函数
11.1.1 前端执行计划函数
11.1.2 从前端调用传递信息到后端调用
11.1.3 后端数据读取
11.1.4 可扩展的加载函数接口
11.2 存储函数
11.2.1 存储函数前端执行计划
11.2.2 存储函数和UDFContext
11.2.3 写数据
11.2.4 任务失败后数据的清理
11.2.5 存储元数据信息

第12章 Pig和其他Hadoop社区的成员
12.1 Pig和Hive
12.2 Cascading
12.3 NoSQL数据库
12.3.1 HBase
12.3.2 Cassandra
12.4 Hadoop中的元数据

附录A 内置的用户自定义函数和Piggybank
内置UDF
内置加载函数和存储函数
内置求值函数和过滤函数
Piggybank

附录B Hadoop综述
MapReduce
Map阶段
Combiner阶段
Shuffle阶段
Reduce阶段
输出阶段
分布式缓存
故障处理
HDFS
作者介绍
书末说明

链接: http://pan.baidu.com/s/1c2wqx4 密码:
游客,如果您要查看本帖隐藏内容请回复


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐 上一条 /4 下一条

返回顶部