知识卡片

普通读书笔记卡 · 2366.e.1

DistCp按文件并行复制数据

理解等级:初级

DistCp 用于集群内或跨集群复制文件,并把复制任务并行分配,以便搬运大批量数据。它解决的是数据迁移时单一复制进程吞吐不足的问题;使用前仍须确认源和目标文件系统的位置、版本与访问权限,不能把复制命令当成数据已核验完成的证明。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《大数据技术体系详解:原理、架构与实践》第6章《分布式文件系统》6.5.1(源文件:_epub-src/OEBPS/text00045.html) - 结论依据:原文定义 distcp 的用途为集群内与集群间文件并行复制,并分别给出同版本和不同版本的跨集群案例。 - 原始内容:分布式文件复制命令distcp主要功能包括集群内文件并行复制和集群间文件并行复制。……将目录/user/dongxicheng/从集群nn1(NameNode所在节点的host)复制到集群nn2上,两个集群中Hadoop版本相同。