脚本宝典收集整理的这篇文章主要介绍了第八次作业，脚本宝典觉得挺不错的，现在分享给大家，也给大家做个参考。

WordCount程序任务：

程序	WordCount
输入	一个包含大量单词的文本文件
输出	文件中每个单词及其出现次数（频数）， 并按照单词字母顺序排序， 每个单词和其频数占一行，单词和频数之间有间隔

 

 

1.用你最熟悉的编程环境，编写非分布式的词频统计程序。

• 读文件
• 分词（text.splIT列表）
• 按单词统计（字典,key单词，value次数）
• 排序（list.sort列表）
• 输出

 

 

 

 

在ubuntu中实现运行。

• 准备txt文件
• 编写py文件
• python3运行py文件分析txt文件。

 

 

 

2.用Mapreduce实现词频统计

2.1编写Map函数

• 编写mapPEr.py

• 

   

   

• 授予可运行权限

• 

   

   

• 本地测试mapper.py

• @H_610_126@

   

   

2.2编写Reduce函数

• 编写reducer.py

• 

   

   

• 授予可运行权限

• 

   

   

• 本地测试reducer.py

• 

   

   

2.3分布式运行自带词频统计示例

• 启动HDFS与YARN

• 

   

   

  

   

   

• 准备待处理文件,上传到HDFS上

• 

   

   

  

   

   

• 运行hadoop-maPReduce-examples-2.7.1.jar

• @H_304_214@

   

   

• 查看结果

• 

   

   

  

   

   

2.4 分布式运行自写的词频统计

 

 

 

 

 

• 停止HDFS与YARN

• 

脚本宝典总结

以上是脚本宝典为你收集整理的第八次作业全部内容，希望文章能够帮你解决第八次作业所遇到的问题。

如果觉得脚本宝典网站内容还不错，欢迎将脚本宝典推荐好友。

本图文内容来源于网友网络收集整理提供，作为学习参考使用，版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ：384754419，请注明来意。