数据采集引擎flume还有什么

A. 常用的大数据技术有哪些

大数据技术包括数据收集、数据存取、基础架构、数据处理、统计分析、数据挖掘、模型预测、结果呈现。

1、数据收集：在大数据的生命周期中，数据采集处于第一个环节。根据MapRece产生数据的应用系统分类，大数据的采集主要有4种来源：管理信息系统、Web信息系统、物理信息系统、科学实验系统。

2、数据存取：大数据的存去采用不同的技术路线，大致可以分为3类。第1类主要面对的是大规模的结构化数据。第2类主要面对的是半结构化和非结构化数据。第3类面对的是结构化和非结构化混合的大数据，

3、基础架构：云存储、分布式文件存储等。

4、数据处理：对于采集到的不同的数据集，可能存在不同的结构和模式，如文件、XML 树、关系表等，表现为数据的异构性。对多个异构的数据集，需要做进一步集成处理或整合处理，将来自不同数据集的数据收集、整理、清洗、转换后，生成到一个新的数据集，为后续查询和分析处理提供统一的数据视图。

5、统计分析：假设检验、显着性检验、差异分析、相关分析、T检验、方差分析、卡方分析、偏相关分析、距离分析、回归分析、简单回归分析、多元回归分析、逐步回归、回归预测与残差分析、岭回归、logistic回归分析、曲线估计、因子分析、聚类分析、主成分分析、因子分析、快速聚类法与聚类法、判别分析、对应分析、多元对应分析(最优尺度分析)、bootstrap技术等等。

6、数据挖掘：目前，还需要改进已有数据挖掘和机器学习技术；开发数据网络挖掘、特异群组挖掘、图挖掘等新型数据挖掘技术；突破基于对象的数据连接、相似性连接等大数据融合技术；突破用户兴趣分析、网络行为分析、情感语义分析等面向领域的大数据挖掘技术。

7、模型预测：预测模型、机器学习、建模仿真。

8、结果呈现：云计算、标签云、关系图等。

B. 大数据采集平台有哪些

针对这个问题，我们先来了解下大数据采集平台提供的服务平台流程包括：

1，首先平台针对需求对数据进行采集。

2，平台对采集的数据进行存储。

3，再对数据进行分析处理。

4，最后对数据进行可视化展现，有报表，还有监控数据。

优秀的大数据平台要能在大数据分析镇岁方法,大数据编程，大数据仓库，大数据案例，人工智能,数据挖掘方面都能表现出优秀的性能。

现在来推荐几个主流且优秀的大数据平台：

1，ApacheFlume

Apache旗下的一款开源、高可靠、高扩展、容易管理、支持客户扩展的数据采集系统,它是一个分布式、可靠、可用的系统，是java运行时环境j用于从大量不同的源有效地收集、聚合、移动大量日志数据进行集中式数据存储。

主要的功能表现在:

1.日志收集:日志系统中定制各类数据发送方，用于收集数据。

2.数据处理:提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力,提供了从console（控制台）、RPC（Thrift-RPC）、text（文件）、tail（UNIXtail）、syslog（syslog日志系统，支持TCP和UDP等2种模式），exec（命令执行）等数据源上收集数据的能力。

2，Fluentd

Fluentd是一个用于统一日志层的开源数据收集器。Fluentd允许您统一数据收集和使用，以便更好地使用和理解数据。Fluentd是云端原生计算基金会(CNCF)的成员项目之一，遵循Apache2License协议。FLuentd的扩展性非常好，客户可以自己定制(Ruby)Input/Buffer/Output。

官网：

articles/quickstart

主要的功能表现在:

1,Input:负责接收数据或者主动抓取数据。支持syslog，http，filetail等。

2,Buffer:负责数据获取的性能和可靠性，也有文件或内存等不同类型的Buffer可以配置。

3,Output:负责输出数据到目的地例如文件，AWSS3或者其它的Fluentd。

3，Chukwa

Chukwa可以将各种各样类型的数据收集成适合Hadoop处理的文件保存在HDFS中供Hadoop进行各种MapRece操作。Chukwa本身也提供了很多内置的功能，帮助我们进行数据的收灶慎集和整理。

1，对应用的各个节点实时监控日志文件的变化，并将增量文件内容写入HDFS，同时还可以将数据去除重复，排序等。

2，监控来自Socket的数据，定时执行我们指定的命令获取输出数据。

优秀的平台还有很多，笔记浅谈为止，开发者根据官方提供的文档进行解读，才能深入了解，隐旅敬并可根据项目的特征与需求来为之选择所需的平台。

C. 大数据的核心技术有哪些

大数据技术的体系庞大且复杂，基础的技术包含数据的采集、数据预处理、分布式存储、数据库、数据仓库、机器学习、并行计算、可视化等。

1、数据采集与预处理：

Flume NG实时日志收集系统，支持在日志系统中定制各类数据发送方，用于收集数据；

Zookeeper是一个分布式的，开放源码的分布式应用程序协调服务，提供数据同步服务。

2、数据存储：

Hadoop作为一个开源的框架，专为离线和大规模数据分析而设计，HDFS作为其核心的存储引擎，已被广泛用于数据存储。

HBase，是一个分布式的、面向列的开源数据库，可以认为是hdfs的封装，本质是数据存储、NoSQL数据库。

3、数据清洗：MapRece作为Hadoop的查询引擎，用于大规模数据集的并行计算

4、数据查询分析：

Hive的核心工作就是把SQL语句翻译成MR程序，可以将结构化的数据映射为一张数据库表，并提供 HQL(Hive SQL)查询功能。

Spark 启用了内存分布数据集，除了能够提供交互式查询外，它还可以优化迭代工作负载。

5、数据可视化：对接一些BI平台，将分析得到的数据进行可视化，用于指导决策服务。

D. 刚接了个业务，需要从30多个不同的系统中采集业务数据，求自动数据采集的神器

我们的TM-Dyson网络数据采集系统，24小时爬虫自动化采集。

灵活迅速地抓取网页上散乱分布的信息，通过智能数据中心提供存储与计算，利用网页应用服务器和开放平台服务器进行大数据存储、管理以及挖掘服务，平台服务器居中调节，实现大数据的智能化分析，准确挖掘出所需数据。

E. 大数据数据采集工具简介

随着大数据技术体系的发展，越来越多的企业应用大数据技术支撑自己的业务发展。数据采集作为大数据的起点，是企业主动获取数据的一种重要手段。数据采集的多样性、全面性直接影响数据质量。

企业获取数据的渠道分为内部和外部两个渠道。内部渠道包含自己建设的业务系统，如电商系统、门户网站、门户论坛等。外部渠道包含爬虫系统爬取的数据、三方合作平台数据、公共社交平台数据等。那么如何从这些渠道获取数据？下面简单地介绍一下常用的数据采集工具。

结构化数据采集工具。

结构化数据在分析型的原始数据占比比较大，大部分经过预处理进入数据仓库进一步多维分析和数据挖掘。常用的数据采集工具有：

1 Apache Flume

支持离线与实时数据导入，是数据集成的主要工具。

2 Apache Sqoop

主要使用JDBC等工具连接关系型数据库与Hadoop生态圈的文件系统，通过配置文件配置双向连接信息后，通过命令完成数据的导入导出。

半结构化数据采集工具

半结构化的数据多见于日志格式。对于日志采集的工具，比较常见的是

1 Logstash

Logstash与ElasticSearch、Kibana并称为ELK，是采集日志的黄金搭档。

2 Apache Flume也多用于日志文本类数据采集。

非结构化数据采集工具

1 DataX

DataX轻量级中间件，在关系型数据库导入导出性能比较优异。支持多种数据类型的导入导出。

流式数据采集工具

1 Kafka

性能优异超高吞吐量。

Binlog日志采集工具

1 Canal

基于MySQL数据库增量日志解析提供增量日志订阅和消费功能。

爬虫采集框架与工具

1 Java栈，Nutch2、WebMagic等。

2 Python栈，Scrapy、PySpider

3 第三方爬虫工具，八爪鱼、爬山虎、后羿等等。

F. 常用的大数据工具有哪些

未至科技魔方是一款大数据模型平台，是一款基于服务总线与分布式云计算两大技术架构的一款数据分析、挖掘的工具平台，其采用分布式文件系统对数据进行存储，支持海量数据的处理。采用多种的数据采集技术，支持结构化数据及非结构化数据的采集。通过图形化的模型搭建工具，支持流程化的模型配置。通过第三方插件技术，很容易将其他工具及服务集成到平台中去。数据分析研判平台就是海量信息的采集，数据模型的搭建，数据的挖掘、分析最后形成知识服务于实战、服务于决策的过程，平台主要包括数据采集部分，模型配置部分，模型执行部分及成果展示部分等。

未至科技小蜜蜂网络信息雷达是一款网络信息定向采集产品，它能够对用户设置的网站进行数据采集和更新，实现灵活的网络数据采集目标，为互联网数据分析提供基础。
未至科技泵站是一款大数据平台数据抽取工具，实现db到hdfs数据导入功能，借助Hadoop提供高效的集群分布式并行处理能力，可以采用数据库分区、按字段分区、分页方式并行批处理抽取db数据到hdfs文件系统中，能有效解决大数据传统抽取导致的作业负载过大抽取时间过长的问题，为大数据仓库提供传输管道。
未至科技云计算数据中心以先进的中文数据处理和海量数据支撑为技术基础，并在各个环节辅以人工服务，使得数据中心能够安全、高效运行。根据云计算数据中心的不同环节，我们专门配备了系统管理和维护人员、数据加工和编撰人员、数据采集维护人员、平台系统管理员、机构管理员、舆情监测和分析人员等，满足各个环节的需要。面向用户我们提供面向政府和面向企业的解决方案。
未至科技显微镜是一款大数据文本挖掘工具，是指从文本数据中抽取有价值的信息和知识的计算机处理技术,
包括文本分类、文本聚类、信息抽取、实体识别、关键词标引、摘要等。基于Hadoop
MapRece的文本挖掘软件能够实现海量文本的挖掘分析。CKM的一个重要应用领域为智能比对,
在专利新颖性评价、科技查新、文档查重、版权保护、稿件溯源等领域都有着广泛的应用。
未至科技数据立方是一款大数据可视化关系挖掘工具，展现方式包括关系图、时间轴、分析图表、列表等多种表达方式，为使用者提供全方位的信息展现方式。

G. 大数据常用的软件工具有哪些

众所周知，现如今，大数据越来越受到大家的重视，也逐渐成为各个行业研究的重点。正所谓“工欲善其事必先利其器”，大数据想要搞的好，使用的工具必须合格。而大数据行业因为数据量巨大的特点，传统的工具已经难以应付，因此就需要我们使用更为先进的现代化工具，那么大数据常用的软件工具有哪些呢？
首先，对于传统分析和商业统计来说，常用的软件工具有Excel、SPSS和SAS。
Excel是一个电子表格软件，相信很多人都在工作和学习的过程中，都使用过这款软件。Excel方便好用，容易操作，并且功能多，为我们提供了很多的函数计算方法，因此被广泛的使用，但它只适合做简单的统计，一旦数据量过大，Excel将不能满足要求。
SPSS和SAS都是商业统计才会用到的软件，为我们提供了经典的统计分析处理，能让我们更好的处理商业问题。同时，SPSS更简单，但功能相对也较少，而SAS的功能就会更加丰富一点。
第二，对于数据挖掘来说，由于数据挖掘在大数据行业中的重要地位，所以使用的软件工具更加强调机器学习，常用的软件工具就是SPSS Modeler。
SPSS Modeler主要为商业挖掘提供机器学习的算法，同时，其数据预处理和结果辅助分析方面也相当方便，这一点尤其适合商业环境下的快速挖掘，但是它的处理能力并不是很强，一旦面对过大的数据规模，它就很难使用。
第三，大数据可视化。在这个领域，最常用目前也是最优秀的软件莫过于TableAU了。
TableAU的主要优势就是它支持多种的大数据源，还拥有较多的可视化图表类型，并且操作简单，容易上手，非常适合研究员使用。不过它并不提供机器学习算法的支持，因此不难替代数据挖掘的软件工具。
第四，关系分析。关系分析是大数据环境下的一个新的分析热点，其最常用的是一款可视化的轻量工具——Gephi。
Gephi能够解决网络分析的许多需求，功能强大，并且容易学习，因此很受大家的欢迎。但由于它是由Java编写的，导致处理性能并不是那么优秀，在处理大规模数据的时候显得力不从心，所以也是有着自己的局限性。
上面四种软件，就是笔者为大家盘点的在大数据行业中常用到的软件工具了，这些工具的功能都是比较强大的，虽然有着不少的局限性，但由于大数据行业分工比较明确，所以也能使用。希望大家能从笔者的文章中，获取一些帮助。