是第一家针对的数据集成工具市场的etl(数据的提取extract、传输transform、载入load)开源软件供应商。talend的下载量已超过200万人次，其开源软件提供了数据整合功能。其用户包括美国国际集团（aig）、康卡斯特、电子港湾、通用电气、三星、ticketmaster和韦里逊等企业组织。
2、dyson
探码科技自主研发的dyson智能分析系统，可以完整的实现大数据的采集、分析、处理。dyson智能分析系统专业针对互联网数据抓取、处理、分析，挖掘。可以灵活迅速地抓取网页上散乱分布的信息，并通过强大的处理功能，准确挖掘出所需数据，是目前使用人数最多的网页采集工具.
3、yarn
一种新的hadoop资源管理器，它是一个通用资源管理系统，可为上层应用提供统一的资源管理和调度，解决了旧mapreduce框架的性能瓶颈。它的基本思想是把资源管理和作业调度/监控的功能分割到单独的守护进程。
4、mesos
由加州大学伯克利分校的amplab首先开发的一款开源群集管理软件，支持hadoop、elasticsearch、spark、storm 和kafka等架构。对数据中心而言它就像一个单一的资源池，从物理或虚拟机器中抽离了cpu，内存，存储以及其它计算资源， 很容易建立和有效运行具备容错性和弹性的分布式系统。
5、datale
由探码科技研发的一款基于hadoop的大数据平台开发套件，rai大数据应用平台架构。
6、 ambari
作为hadoop生态系统的一部分，提供了基于web的直观界面，可用于配置、管理和监控hadoop集群。目前已支持大多数hadoop组件，包括hdfs、mapreduce、hive、pig、 hbase、zookeper、sqoop和hcatalog等。
7、zookeeper
一个分布式的应用程序协调服务，是hadoop和hbase的重要组件。它是一个为分布式应用提供一致性服务的工具，让hadoop集群里面的节点可以彼此协调。zookeeper现在已经成为了 apache的顶级项目，为分布式系统提供了高效可靠且易于使用的协同服务。
8、thrift
在2007年facebook提交apache基金会将thrift作为一个开源项目，对于当时的facebook来说创造thrift是为了解决facebook系统中各系统间大数据量的传输通信以及系统之间语言环境不同需要跨平台的特性。
9、chukwa
监测大型分布式系统的一个开源数据采集系统。建立在hdfs/mapreduce框架之上并继承了hadoop的可伸缩性和可靠性，可以收集来自大型分布式系统的数据，用于监控。它还包括灵活而强大的显示工具用于监控、分析结果。
10、lustre
一个大规模的、安全可靠的、具备高可用性的集群文件系统，它是由sun公司开发和维护的。该项目主要的目的就是开发下一代的集群文件系统，目前可以支持超过10000个节点，数以pb的数据存储量。
11、hdfs
hadoop distributed file system，简称hdfs，是一个分布式文件系统。hdfs是一个高度容错性的系统，适合部署在廉价的机器上。hdfs能提供高吞吐量的数据访问，非常适合大规模数据集上的应用。
12、glusterfs
一个集群的文件系统，支持pb级的数据量。glusterfs 通过rdma和tcp/ip方式将分布到不同服务器上的存储空间汇集成一个大的网络化并行文件系统。
13、alluxio
前身是tachyon，是以内存为中心的分布式文件系统，拥有高性能和容错能力，能够为集群框架（如spark、mapreduce）提供可靠的内存级速度的文件共享服务。
14、ceph
新一代开源分布式文件系统，主要目标是设计成基于posix的没有单点故障的分布式文件系统，提高数据的容错性并实现无缝的复制。
15、pvfs
一个高性能、开源的并行文件系统，主要用于并行计算环境中的应用。pvfs特别为超大数量的客户端和服务器端所设计，它的模块化设计结构可轻松的添加新的硬件和算法支持。
16、qfs
quantcast file system (qfs) 是一个高性能、容错好、分布式的文件系统，用于开发支持 mapreduce处理或者需要顺序读写大文件的应用。
17、 logstash
一个应用程序日志、事件的传输、处理、管理和搜索的平台。可以用它来统一对应用程序日志进行收集管理，提供了web接口用于查询和统计。
18、scribe
scribe是facebook开源的日志收集系统，它能够从各种日志源上收集日志，存储到一个中央存储系统（可以是nfs，分布式文件系统等）上，以便于进行集中统计分析处理。
19、flume
cloudera提供的一个高可用的、高可靠的、分布式的海量日志采集、聚合和传输的系统。flume支持在日志系统中定制各类数据发送方，用于收集数据。同时，flume支持对数据进行简单处理，并写入各种数据接受方（可定制）。
20、rabbitmq
一个受欢迎的消息代理系统，通常用于应用程序之间或者程序的不同组件之间通过消息来进行集成。rabbitmq提供可靠的应用消息发送、易于使用、支持所有主流操作系统、支持大量开发者平台。
21、activemq
apache出品，号称“最流行的，最强大”的开源消息集成模式服务器。activemq特点是速度快，支持多种跨语言的客户端和协议，其企业集成模式和许多先进的功能易于使用，是一个完全支持jms1.1和j2ee 1.4规范的jms provider实现。
22、kafka
一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模网站中的所有动作流数据，目前已成为大数据系统在异步和分布式消息之间的最佳选择。
23、spark
一个高速、通用大数据计算处理引擎。拥有hadoop mapreduce所具有的优点，但不同的是job的中间输出结果可以保存在内存中，从而不再需要读写hdfs，因此spark能更好地适用于数据挖掘与机器学习等需要迭代的mapreduce的算法。它可以与hadoop和apache mesos一起使用，也可以独立使用。
24、kinesis
可以构建用于处理或分析流数据的自定义应用程序，来满足特定需求。amazon kinesis streams 每小时可从数十万种来源中连续捕获和存储数tb数据，如网站点击流、财务交易、社交媒体源、it日志和定位追踪事件。
25、 hadoop
一个开源框架，适合运行在通用硬件，支持用简单程序模型分布式处理跨集群大数据集，支持从单一服务器到上千服务器的水平scale up。apache的hadoop项目已几乎与大数据划上了等号，它不断壮大起来，已成为一个完整的生态系统，拥有众多开源工具面向高度扩展的分布式计算。高效、可靠、可伸缩，能够为你的数据存储项目提供所需的yarn、hdfs和基础架构，并且运行主要的大数据服务和应用程序。
26、spark streaming
实现微批处理，目标是很方便的建立可扩展、容错的流应用，支持java、scala和python，和spark无缝集成。spark streaming可以读取数据hdfs，flume，kafka，twitter和zeromq，也可以读取自定义数据。
27、trident
是对storm的更高一层的抽象，除了提供一套简单易用的流数据处理api之外，它以batch(一组tuples)为单位进行处理，这样一来，可以使得一些处理更简单和高效。
28、flink
于今年跻身apache顶级开源项目，与hdfs完全兼容。flink提供了基于java和scala的api，是一个高效、分布式的通用大数据分析引擎。更主要的是，flink支持增量迭代计算，使得系统可以快速地处理数据密集型、迭代的任务。
29、samza
出自于linkedin，构建在kafka之上的分布式流计算框架，是apache顶级开源项目。可直接利用kafka和hadoop yarn提供容错、进程隔离以及安全、资源管理。
30、storm
storm是twitter开源的一个类似于hadoop的实时数据处理框架。编程模型简单，显著地降低了实时处理的难度，也是当下最人气的流计算框架之一。与其他计算框架相比，storm最大的优点是毫秒级低延时。
31、yahoo s4 （simple scalable streaming system）
是一个分布式流计算平台，具备通用、分布式、可扩展的、容错、可插拔等特点。程序员可以很容易地开发处理连续无边界数据流（continuous unbounded streams of data）的应用。它的目标是填补复杂专有系统和面向批处理开源产品之间的空白，并提供高性能计算平台来解决并发处理系统的复杂度。
32、haloop
是一个hadoop mapreduce框架的修改版本，其目标是为了高效支持 迭代，递归数据 分析任务，如pagerank，hits，k-means，sssp等。
33、presto
是一个开源的分布式sql查询引擎，适用于交互式分析查询，可对250pb以上的数据进行快速地交互式分析。presto的设计和编写是为了解决像facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。facebook称presto的性能比诸如hive和mapreduce要好上10倍有多。
34、 drill
于2012年8月份由apache推出，让用户可以使用基于sql的查询，查询hadoop、nosql数据库和云存储服务。它能够运行在上千个节点的服务器集群上，且能在几秒内处理pb级或者万亿条的数据记录。它可用于数据挖掘和即席查询，支持一系列广泛的数据库，包括hbase、mongodb、mapr-db、hdfs、mapr-fs、亚马逊s3、azure blob storage、谷歌云存储和swift。
35、phoenix
是一个java中间层，可以让开发者在apache hbase上执行sql查询。phoenix完全使用java编写，并且提供了一个客户端可嵌入的jdbc驱动。phoenix查询引擎会将sql查询转换为一个或多个hbase scan，并编排执行以生成标准的jdbc结果集。
36、pig
是一种编程语言，它简化了hadoop常见的工作任务。pig可加载数据、转换数据以及存储最终结果。pig最大的作用就是为mapreduce框架实现了一套shell脚本 ，类似我们通常熟悉的sql语句。
37、hive
是基于hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的sql查询功能，可以将sql语句转换为mapreduce任务进行运行。 其优点是学习成本低，可以通过类sql语句快速实现简单的mapreduce统计，不必开发专门的mapreduce应用，十分适合数据仓库的统计分析。
38、sparksql
前身是shark，sparksql抛弃原有shark的代码并汲取了一些优点，如内存列存储（in-memory columnar storage）、hive兼容性等。由于摆脱了对hive的依赖性，sparksql无论在数据兼容、性能优化、组件扩展方面都得到了极大的方便。
39、stinger
原来叫tez，是下一代hive，由hortonworks主导开发，运行在yarn上的dag计算框架。某些测试下，stinger能提升10倍左右的性能，同时会让hive支持更多的sql。
40、tajo
目的是在hdfs之上构建一个可靠的、支持关系型数据的分布式数据仓库系统，它的重点是提供低延迟、可扩展的ad-hoc查询和在线数据聚集，以及为更传统的etl提供工具。
41、impala
cloudera 声称，基于sql的impala数据库是“面向apache hadoop的领先的开源分析数据库”。它可以作为一款独立产品来下载，又是cloudera的商业大数据产品的一部分。cloudera impala 可以直接为存储在hdfs或hbase中的hadoop数据提供快速、交互式的sql查询。
42、 elasticsearch
是一个基于lucene的搜索服务器。它提供了一个分布式、支持多用户的全文搜索引擎，基于restful web接口。elasticsearch是用java开发的，并作为apache许可条款下的开放源码发布，是当前流行的企业级搜索引擎。设计用于云计算中，能够达到实时搜索、稳定、可靠、快速、安装使用方便。
43、solr
基于apache lucene，是一种高度可靠、高度扩展的企业搜索平台。知名用户包括eharmony、西尔斯、stubhub、zappos、百思买、at&t、instagram、netflix、彭博社和travelocity。
44、shark
即hive on spark，本质上是通过hive的hql解析，把hql翻译成spark上的rdd操作，然后通过hive的metadata获取数据库里的表信息，实际hdfs上的数据和文件，会由shark获取并放到spark上运算。shark的特点就是快，完全兼容hive，且可以在shell模式下使用rdd2sql()这样的api，把hql得到的结果集，继续在scala环境下运算，支持自己编写简单的机器学习或简单分析处理函数，对hql结果进一步分析计算。
45、lucene
基于java的lucene可以非常迅速地执行全文搜索。据官方网站声称，它在现代硬件上每小时能够检索超过150gb的数据，它拥有强大而高效的搜索算法。
46、terracotta
声称其bigmemory技术是“世界上首屈一指的内存中数据管理平台”，支持简单、可扩展、实时消息，声称在190个国家拥有210万开发人员，全球1000家企业部署了其软件。
47、 ignite
是一种高性能、整合式、分布式的内存中平台，可用于对大规模数据集执行实时计算和处理，速度比传统的基于磁盘的技术或闪存技术高出好几个数量级。该平台包括数据网格、计算网格、服务网格、流媒体、hadoop加速、高级集群、文件系统、消息传递、事件和数据结构等功能。
48、gemfire
pivotal宣布它将开放其大数据套件关键组件的源代码，其中包括gemfire内存中nosql数据库。它已向apache软件基金会递交了一项提案，以便在“geode”的名下管理gemfire数据库的核心引擎。
49、 gridgain
由apache ignite驱动的gridgrain提供内存中数据结构，用于迅速处理大数据，还提供基于同一技术的hadoop加速器。
50、mongodb
是一个基于分布式文件存储的数据库。由c++...