知识卡片

普通读书笔记卡 · 2275.as.6.j.9

Hadoop生态分开存储与计算

理解等级:中级

HDFS承担分布式文件存储,MapReduce承担批量计算,上层再有仓库、流处理、数据库、采集和调度等组件。生态图帮助明确每个组件的工作,不表示所有项目都必须安装整套工具。书中的发行工具与组件流行状况只作写作时期背景。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 大数据技术中台 11.1.1 Hadoop技术框架 · 查看原书依据

      在这个生态圈中,Hadoop最核心的组件就是分布式文件系统HDFS和分布式计算框架MapReduce。HDFS为海量的数据提供了存储,是整个大数据平台的基础,而MapReduce则为海量的数据提供了计算能力。在它们之上有各种大数据技术框架,包括数据仓库Hive、流式计算Storm、数据挖掘工具Mahout和分布式数据库HBase。此外,ZooKeeper为Hadoop集群提供了高可靠运行的框架,保证Hadoop集群在部分节点宕机的情况下

    参考来源

    - 位置:《架构真意企业级应用架构设计方法论与实践》第11章《大数据技术中台》“11.1.1 Hadoop技术框架”(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/架构真意企业级应用架构设计方法论与实践/_epub-src/EPUB/xhtml/chapter143.xhtml)。 - 结论依据:原文的具体说明支撑这一概括:HDFS承担分布式文件存储,MapReduce承担批量计算,上层再有仓库、流处理、数据库、采集和调度等组件。其余范围限定用于避免超出书内证据。 - 原始内容:在这个生态圈中,Hadoop最核心的组件就是分布式文件系统HDFS和分布式计算框架MapReduce。HDFS为海量的数据提供了存储,是整个大数据平台的基础,而MapReduce则为海量的数据提供了计算能力。在它们之上有各种大数据技术框架,包括数据仓库Hive、流式计算Storm、数据挖掘工具Mahout和分布式数据库HBase。此外,ZooKeeper为Hadoop集群提供了高可靠运行的框架,保证Hadoop集群在部分节点宕机的情况下