北京列举网 > 教育培训 > 电脑/网络 > 大数据工具是什么 学习hadoop培训
北京
[切换城市]

大数据工具是什么 学习hadoop培训

更新时间:2018-04-24 16:40:37 浏览次数:50次
区域: 北京 > 昌平 > 沙河
类别:软件工程师培训
地址:北京市昌平区顺沙路八号院汇德商厦4层
老男孩教育:http://www.oldb***/
学校地址:北京市昌平区顺沙路八号院汇德商厦4层
培训咨询专线:18500150262  
班型:
1. 全日制:Linux云计算运维、Python全栈开发+人工智能、Java全栈开发、大数据开发
适合于:0基础学习,对IT感兴趣,想要在IT行业发展的朋友们
2. 周末班:MySQL DBA周末班,阿里云架构师、GO语言开发、Linux架构师、Python自动化开发、Python自动化资深架构师
适合于:本身在职IT行业内的朋友们,有一年以上行业经验
3. 网络班

大数据工具可以帮助大数据工作人员进行日常的大数据工作,以下是大数据工作中常用的工具:
1. Hivemall
Hivemall结合了面向Hive的多种机器学习算法。它包括诸多高度扩展性算法,可用于数据分类、递归、推荐、k近邻、异常检测和特征哈希。
支持的操作系统:与操作系统无关。
2. Mahout
Mahout 是 Apache Software Foundation(ASF) 旗下的一个开源项目,提供一些可扩展的机器学习领域经典算法的实现,旨在帮助开发人员更加方便快捷地创建智能应用程序。Mahout包含许多实现,包括聚类、分类、推荐过滤、频繁子项挖掘。此外,通过使用 Apache Hadoop 库,Mahout 可以有效地扩展到云中。
3. MapReduce
MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行运算。概念"Map(映射)"和"Reduce(归约)",是它们的主要思想,都是从函数式编程语言里借来的,还有从矢量编程语言里借来的特性。它极大地方便了编程人员在不会分布式并行编程的情况下,将自己的程序运行在分布式系统上。
4. Oozie
Oozie是一种Java Web应用程序,它运行在Java servlet容器——即Tomcat——中,并使用数据库来存储以下内容:
工作流定义
当前运行的工作流实例,包括实例的状态和变量
5. Pig
Pig是一种数据流语言和运行环境,用于检索非常大的数据集。为大型数据集的处理提供了一个更高层次的抽象。Pig包括两部分:一是用于描述数据流的语言,称为Pig Latin;二是用于运行Pig Latin程序的执行环境。
6. Sqoop
Sqoop(发音:skup)是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。
7. Spark
Spark 是一种与 Hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越,换句话说,Spark 启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。
8. Tez
Tez建立在Apache Hadoop YARN的基础上,这是“一种应用程序框架,允许为任务构建一种复杂的有向无环图,以便处理数据。”它让Hive和Pig可以简化复杂的任务,而这些任务原本需要多个步骤才能完成。
9. Zookeeper
ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性 服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。
北京电脑/网络相关信息
办公软件培训
平谷-平谷城区
4月11日
办公软件培训
平谷-平谷城区
4月9日
办公软件培训
平谷-平谷城区
4月7日
4月1日
注册时间:2017年12月26日
UID:453900
---------- 认证信息 ----------
手机已认证
查看用户主页