现代数据准备平台有哪些

⑴ 大数据采集平台有哪些

针对这个问题，我们先来了解下大数据采集平台提供的服务平台流程包括：

1，首先平台针对需求对数据进行采集。

2，平台对采集的数据进行存储。

3，再对数据进行分析处理。

4，最后对数据进行可视化展现，有报表，还有监控数据。

优秀的大数据平台要能在大数据分析镇岁方法,大数据编程，大数据仓库，大数据案例，人工智能,数据挖掘方面都能表现出优秀的性能。

现在来推荐几个主流且优秀的大数据平台：

1，ApacheFlume

Apache旗下的一款开源、高可靠、高扩展、容易管理、支持客户扩展的数据采集系统,它是一个分布式、可靠、可用的系统，是java运行时环境j用于从大量不同的源有效地收集、聚合、移动大量日志数据进行集中式数据存储。

主要的功能表现在:

1.日志收集:日志系统中定制各类数据发送方，用于收集数据。

2.数据处理:提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力,提供了从console（控制台）、RPC（Thrift-RPC）、text（文件）、tail（UNIXtail）、syslog（syslog日志系统，支持TCP和UDP等2种模式），exec（命令执行）等数据源上收集数据的能力。

2，Fluentd

Fluentd是一个用于统一日志层的开源数据收集器。Fluentd允许您统一数据收集和使用，以便更好地使用和理解数据。Fluentd是云端原生计算基金会(CNCF)的成员项目之一，遵循Apache2License协议。FLuentd的扩展性非常好，客户可以自己定制(Ruby)Input/Buffer/Output。

官网：

articles/quickstart

主要的功能表现在:

1,Input:负责接收数据或者主动抓取数据。支持syslog，http，filetail等。

2,Buffer:负责数据获取的性能和可靠性，也有文件或内存等不同类型的Buffer可以配置。

3,Output:负责输出数据到目的地例如文件，AWSS3或者其它的Fluentd。

3，Chukwa

Chukwa可以将各种各样类型的数据收集成适合Hadoop处理的文件保存在HDFS中供Hadoop进行各种MapRece操作。Chukwa本身也提供了很多内置的功能，帮助我们进行数据的收灶慎集和整理。

1，对应用的各个节点实时监控日志文件的变化，并将增量文件内容写入HDFS，同时还可以将数据去除重复，排序等。

2，监控来自Socket的数据，定时执行我们指定的命令获取输出数据。

优秀的平台还有很多，笔记浅谈为止，开发者根据官方提供的文档进行解读，才能深入了解，隐旅敬并可根据项目的特征与需求来为之选择所需的平台。

⑵ 大数据平台的软件有哪些

这个要分好几块来讲，首先我要说明的是大数据项目也是要有很多依赖的模块的。每个模块的软件不一样，下面分别聊一下。

一、大数据处理

这个是所谓大数据项目中最先想到的模块。主要有spark，hadoop，es，kafka，hbase，hive等。

当然像是flume，sqoop也都很常用。

这些软件主要是为了解决海量数据处理的问题。软件很多，我只列几个经典的，具体可以自行网络。

二、机器学习相关

大部分大数据项目都和机器学习相关。因此会考虑到机器学习的一些软件，比如说sklearn，spark的ml，当然还有自己实现的代码。

三、web相关技术

大部分项目也都跑不了一个web的展示，因此web就很重要的，java的ssh，python的django都可以，这个看具体的项目组习惯了。

四、其它

还有一些很常用的东西，个人感觉不完全算是大数据特定使用范橘埋高围。反正我在做大数据项目的时候也都用到了。

比如说数据存储：redis，mysql。

数据可视化：echart，d3js。

图数据库：neo4j。

再来说说大数据平台的软件或者工具：

1、数据库，大数据平台类，星环，做Hadoop生态系列的大数据平台圆尺公司。Hadoop是开源的，星环主要做的是把Hadoop不稳定的部分优化，功能细化，为企业提供Hadoop大数据引擎及液键数据库工具。

2、大数据存储硬件类，浪潮，很老牌的IT公司，国资委控股，研究大数据方面的存储，在国内比较领先。

3、云计算，云端大数据类，阿里巴巴，明星产品-阿里云，与亚马逊AWS抗衡，做公有云、私有云、混合云。实力不差，符合阿里巴巴的气质，很有野心。

4、数据应用方面这个有很多，比如帆软旗下的FineReport报表系统和FineBI大数据分析平台等。

帆软是商业智能和数据分析平台提供商，从报表工具到商业智能，有十多年的数据应用的底子，在这个领域很成熟，目前处于快速成长期，但是很低调，是一家有技术有实力而且对客户很真诚的公司。

⑶ 数据分析平台有哪些

数据分析平台通常有如下：
1.国家数据： http://data.stats.gov.cn可以查询到国家统计局调查统计的各专业领域的主要指标时间序列数据。

2.阿里指数： https://index.1688.com最权威专业的行业价格、供应、采购趋势分析。

3.微指数： https://data.weibo.com/index微指数是对提及量、阅读量、互动量加权得出的综合指数，更加全面的体现关键词在微博上的热度情况。

4.微信指数： 微信里面搜一搜“微信指数”就能直接找到。立足于微信生态，依托海量用户数据，微信指数具有天生优势。

5.淘宝生意参谋： https://sycm.taobao.com生意参谋基于“支付金额=访客数*转化率*客单价”这一公式，帮你快速定位生意波动的核心因素。

6.搜狗指数： http://shu.sogou.com/全网热门事件、品牌、人物等查询词的搜索热度变化趋势，掌握网民需求变化.

7.头条指数： https://index.toutiao.com/头条指数是巨量引擎云图推出的一种数据产品。

8.360指数： http://index.haosou.com360趋势是以360产品海量用户数据为基础的大数据展示平台。

9.飞瓜数据： https://www.feigua.cn/飞瓜数据是短视频领域权威的数据分析平台，提供抖音数据和快手数据等。

10.七麦数据： https://www.qimai.cn/七麦数据是国内专业的移动应用APP数据分析平台。

11.网络指数： http://index..com你可以研究关键词搜索趋势、洞察网民兴趣和需求、监测舆情动向、定位受众特征。

12.京东商智： https://sz.jd.com丰富的运营数据，覆盖电商全域，提升运营效率。多维度行业竞争数据，刻画行业趋势，洞察消费特性，辅助运营决策。

⑷ 有哪些好的数据来源或者大数据平台

数据来源
大数据分析的数据来源有很多种，包括公司或者机构的内部来源和外部来源。分为以下几类：
交易数据。包括POS机数据、信用卡刷卡数据、电子商务数据、互联网点击数据、“企业资源规划”(ERP)系统数据、销售系统数据、客户关系管理(CRM)系统数据、公司的生产数据、库存数据、订单数据、供应链数据等。
移动通信数据。能够上网的智能手机等移动设备越来越普遍。移动通信设备记录的数据量和数据的立体完整度，常常优于各家互联网公司掌握的数据。移动设备上的软件能够追踪和沟通无数事件，从运用软件储存的交易数据(如搜索产品的记录事件)到个人信息资料或状态报告事件(如地点变更即报告一个新的地理编码)等。
人为数据。人为数据包括电子邮件、文档、图片、音频、视频，以及通过微信、博客、推特、维基、脸书、Linkedin等社交媒体产生的数据流。这些数据大多数为非结构性数据，需要用文本分析功能进行分析。
机器和传感器数据。来自感应器、量表和其他设施的数据、定位/GPS系统数据等。这包括功能设备会创建或生成的数据，例如智能温度控制器、智能电表、工厂机器和连接互联网的家用电器的数据。来自新兴的物联网(Io T)的数据是机器和传感器所产生的数据的例子之一。来自物联网的数据可以用于构建分析模型，连续监测预测性行为(如当传感器值表示有问题时进行识别)，提供规定的指令(如警示技术人员在真正出问题之前检查设备)等。
互联网上的“开放数据”来源，如政府机构,非营利组织和企业免费提供的数据。

⑸ 大数据基础平台有哪些

国内大数据平台有：
1、星环Transwarp。星环科技是一个以hadoop生态系统为基础的大型数据平台公司，被Gartner魔力象限列入名单过，它的潜力不容忽视，它在技术上对hadoop不稳定的部分进行了优化，功能得到了改进，提供了hadoop的企业大数据引擎等。
2、TalkingData。TalkingData属于独立的第三方品牌。它的产品与之服务涵盖了移动应用数据统计、公共数据查询、综合数据管理等多款极具针对性的产品及服务。在银行、互联网、电商行业有广泛的数据服务应用。
3、友盟+。友盟+是第一个第三方的全域大数据服务供应商，可以全面覆盖PC机、无线路由器等多种设备。为企业提供基础统计、操作分析、数据决策等全业务链的数据应用解决方案，帮助企业进行数据化操作和管理。
4、网易猛犸。网易猛犸大数据平台提供了海量应用开发的一站式数据管理平台，其中还包含了大数据开发套件和hadoop发布。该套件主要包括数据开发、任务操作、自助分析、以及多租户管理等。
5、GrowingIO。GrowingIO是一种基于因特网用户行为的数据分析产品，具有无埋点数据采集技术，可通过行为数据，如网页或APP的浏览轨迹、点击记录、鼠标滑动轨迹等行为数据，对用户行为数据，进行实时的分析，用于优化产品体验，实现精益化操作。
6、神策数据。神策数据原理也与GrowingIO类似。但是它在技术上提供开放的查询API和完整的SQL接口，同时与MapRece和Spark等计算引擎无缝融合，随时以最高效的方式来访问干净、规范的数据。

⑹ 常用的大数据分析平台有哪些

阿里指数： https://index.1688.com最权威专业的行业价格、供应、采购趋势分析。

微指数： https://data.weibo.com/index微指数是对提及量、阅读量、互动量加权得出的综合指数，更加全面的体现关键词在微博上的热度情况。

微信指数： 微信里面搜一搜“微信指数”就能直接找到。立足于微信生态，依托海量用户数据，微信指数具有天生优势。

淘宝生意参谋： https://sycm.taobao.com生意参谋基于“支付金额=访客数*转化率*客单价”这一公式，帮你快速定位生意波动的核心因素。

搜狗指数： http://shu.sogou.com/全网热门事件、品牌、人物等查询词的搜索热度变化趋势，掌握网民需求变化.

头条指数： https://index.toutiao.com/头条指数是巨量引擎云图推出的一种数据产品。

360指数： http://index.haosou.com360趋势是以360产品海量用户数据为基础的大数据展示平台。

飞瓜数据： https://www.feigua.cn/飞瓜数据是短视频领域权威的数据分析平台，提供抖音数据和快手数据等。

七麦数据： https://www.qimai.cn/七麦数据是国内专业的移动应用APP数据分析平台。

网络指数： http://index..com你可以研究关键词搜索趋势、洞察网民兴趣和需求、监测舆情动向、定位受众特征。

京东商智： https://sz.jd.com丰富的运营数据，覆盖电商全域，提升运营效率。多维度行业竞争数据，刻画行业趋势，洞察消费特性，辅助运营决策。

⑺ 有哪些好的数据来源或者大数据平台

基于相关产业市场运行实时数据，监测实际市场运行中实物商品、数字商品、数字化服务的实时交易状况、全国各省市相关产业交易额实时排名，反映产业和经济运行现状——产业经济监测、预测与政策模拟平台。