Skip to content

HDFS配置

  • 五节点,每个节点8 * 4T 机械硬盘,。HDFS两副本,实际容量80T。

  • HDFS的并发吞吐上限: 120mb/s * 8 * 5 = 4.76 GB/s

从存储容量评估

  • 存7天,数据总量70T,每秒平均120mb写入流量。
  • 考虑上压缩,原始数据500mb/s。一条数据0.5K,并发量约为100w出头;

从HDFS的读写并发上限评估

  • HDFS的并发吞吐上限: 120mb/s * 8 * 5 = 4.76 GB/s
  • memstore的flush使用50%的IO ,其余IO用来合并操作。每秒写入的是数据2GB
  • 考虑压缩,原始数据10GB/s。一条数据0.5K,并发量约为1000w出头;