Posts tagged ‘mapreduce’
2011-12-08, 下午 12:05
- Common: 一组分布文件系统和通用 I/O 组件与接口(序列化、Java RPC 和持久化数据结构)。
- Avro: 一种支持高效、跨语言的 RPC 以及永久存储数据的序列化系统。
- MapReduce: 分布式数据处理模型和执行环境、运行于大型商用机集群。
- HDFS: 分布式文件系统，运行于大型商用机集群。
- Pig: 一种数据流语言和运行环境，用以检索非常大的数据集。Pig 运行在 MapReduce 和 HDFS 的集群上。
- Hive: 一个分布式、按列存储的数据仓库。 Hive 管理 HDFS 中存储的数据，并提供基于 SQL 的查询语言（由运行时引擎翻译成 MapReduce作业）用以查询数据。
- HBase: 一个分布式、按列存储的数据仓库。HBase 使用 HDFS 作为底层存储，同时支持 MapReduce 的批量式计算和点查询（随机读取）。
- ZooKeeper: 一个分布式、高可用的协调服务。ZooKeeper 提供分布式锁之类的基本服务用于构建分布式应用。
- Sqoop: 在数据库和 HDFS 之间高效传输数据的工具。
2011-12-08, 上午 11:34
| |
传统关系型数据库 |
MapReduce |
| 数据大小 |
GB |
PB |
| 访问 |
交互式和批处理 |
批处理 |
| 更新 |
多次读写 |
一次写入多次读取 |
| 结构 |
静态模式 |
动态模式 |
| 完整性 |
高 |
低 |
| 横向扩展 |
非线性 |
线性 |