用什么方式管理数据

⑴ 简述数据管理的三种方法

1、单个云包括存储和应用程序
2、应用程序在云端，存储在本地
3、应用程序在云端，而且数据缓存也在云端，存储在本地

在第一种情况下，通过将所有的内容都放在单个云服务商来节省带宽成本，但是这会产生一些(供应商)锁定，这个通常与 CIO 的云战略或者风险防范计划所冲突。
第二种方案是仅仅保留应用程序在云端所收集的数据，并且以最小的方式传输到本地存储。这就需要仔细的考虑策略，其中只有最少使用数据的应用程序部署在云端。
第三种情况就是将数据缓存在云端，应用程序和存储的数据被存储在本地。这也就意味着分析、人工智能、机器学习可以在内部运行而无需把数据向云服务商上传，然后处理之后再返回。缓存的数据仅仅基于应用程序对云的需求，甚至进行跨多云的部署缓存。
企业应根据数据量以及数据的敏感度去进行衡量，判断是选择哪一种储存方式更适合，这样才能做出对企业发展有益的决策。

⑵ 数据处理的方法有哪些，有什么优缺点

数据处理主要有四种分类方式
①根据处理设备的结构方式区分，有联机处理方式和脱机处理方式。
②根据数据处理时间的分配方式区分，有批处理方式、分时处理方式和实时处理方式。
③根据数据处理空间的分布方式区分，有集中式处理方式和分布处理方式。
④根据计算机中央处理器的工作方式区分，有单道作业处理方式、多道作业处理方式和交互式处理方式。
数据处理对数据（包括数值的和非数值的）进行分析和加工的技术过程。包括对各种原始数据的分析、整理、计算、编辑等的加工和处理。比数据分析含义广。随着计算机的日益普及，在计算机应用领域中，数值计算所占比重很小，通过计算机数据处理进行信息管理已成为主要的应用。如测绘制图管理、仓库管理、财会管理、交通运输管理，技术情报管理、办公室自动化等。在地理数据方面既有大量自然环境数据（土地、水、气候、生物等各类资源数据），也有大量社会经济数据（人口、交通、工农业等），常要求进行综合性数据处理。故需建立地理数据库，系统地整理和存储地理数据减少冗余，发展数据处理软件，充分利用数据库技术进行数据管理和处理。
计算机数据处理主要包括8个方面。
①数据采集:采集所需的信息。
②数据转换：把信息转换成机器能够接收的形式。
③数据分组：指定编码，按有关信息进行有效的分组。
④数据组织：整理数据或用某些方法安排数据，以便进行处理。
⑤数据计算：进行各种算术和逻辑运算，以便得到进一步的信息。
⑥数据存储：将原始数据或计算的结果保存起来,供以后使用。
⑦数据检索:按用户的要求找出有用的信息。
⑧数据排序：把数据按一定要求排成次序。

⑶ 如何有效的进行数据治理和数据管控

从技术实施角度看，主要包含“理”“采”“存”“管”“用”这五个，即业务和数据资源梳理、数据采集清洗、数据库设计和存储、数据管理、数据使用。

数据资源梳理：数据治理的第一个步骤是从业务的视角厘清组织的数据资源环境和数据资源清单，包含组织机构、业务事项、信息系统，以及以数据库、网页、文件和 API 接口形式存在的数据项资源，本步骤的输出物为分门别类的数据资源清单。

数据采集清洗：通过可视化的 ETL 工具（例如阿里的 DataX，Pentaho Data Integration）将数据从来源端经过抽取 (extract)、转换 (transform)、加载 (load) 至目的端的过程，目的是将散落和零乱的数据集中存储起来。

基础库主题库建设：一般情况下，可以将数据分为基础数据、业务主题数据和分析数据。基础数据一般指的是核心实体数据，或称主数据，例如智慧城市中的人口、法人、地理信息、信用、电子证照等数据。主题数据一般指的是某个业务主题数据，例如市场监督管理局的食品监管、质量监督检查、企业综合监管等数据。而分析数据指的是基于业务主题数据综合分析而得的分析结果数据，例如市场监督管理局的企业综合评价、产业区域分布、高危企业分布等。那么基础库和主题库的建设就是在对业务理解的基础上，基于易存储、易管理、易使用的原则抽像数据存储结构，说白了，就是基于一定的原则设计数据库表结构，然后再根据数据资源清单设计数据采集清洗流程，将整洁干净的数据存储到数据库或数据仓库中。

元数据管理：元数据管理是对基础库和主题库中的数据项属性的管理，同时，将数据项的业务含义与数据项进行了关联，便于业务人员也能够理解数据库中的数据字段含义，并且，元数据是后面提到的自动化数据共享、数据交换和商业智能（BI）的基础。需要注意的是，元数据管理一般是对基础库和主题库中（即核心数据资产）的数据项属性的管理，而数据资源清单是对各类数据来源的数据项的管理。

血缘追踪：数据被业务场景使用时，发现数据错误，数据治理团队需要快速定位数据来源，修复数据错误。那么数据治理团队需要知道业务团队的数据来自于哪个核心库，核心库的数据又来自于哪个数据源头。我们的实践是在元数据和数据资源清单之间建立关联关系，且业务团队使用的数据项由元数据组合配置而来，这样，就建立了数据使用场景与数据源头之间的血缘关系。 数据资源目录：数据资源目录一般应用于数据共享的场景，例如政府部门之间的数据共享，数据资源目录是基于业务场景和行业规范而创建，同时依托于元数据和基础库主题而实现自动化的数据申请和使用。

质量管理：数据价值的成功发掘必须依托于高质量的数据，唯有准确、完整、一致的数据才有使用价值。因此，需要从多维度来分析数据的质量，例如：偏移量、非空检查、值域检查、规范性检查、重复性检查、关联关系检查、离群值检查、波动检查等等。需要注意的是，优秀的数据质量模型的设计必须依赖于对业务的深刻理解，在技术上也推荐使用大数据相关技术来保障检测性能和降低对业务系统的性能影响，例如 Hadoop，MapRece，HBase 等。

商业智能（BI）：数据治理的目的是使用，对于一个大型的数据仓库来说，数据使用的场景和需求是多变的，那么可以使用 BI 类的产品快速获取需要的数据，并分析形成报表，像派可数据就属于专业的BI厂商。

数据共享交换：数据共享包括组织内部和组织之间的数据共享，共享方式也分为库表、文件和 API 接口三种共享方式，库表共享比较直接粗暴，文件共享方式通过 ETL 工具做一个反向的数据交换也就可以实现。我们比较推荐的是 API 接口共享方式，在这种方式下，能够让中心数据仓库保留数据所有权，把数据使用权通过 API 接口的形式进行了转移。API 接口共享可以使用 API 网关实现，常见的功能是自动化的接口生成、申请审核、限流、限并发、多用户隔离、调用统计、调用审计、黑白名单、调用监控、质量监控等等。

⑷ 数据资产的管理方法

在最近几年的业务发展中，数据都是各大公司建设的“宠儿”，几乎所有的业务都围绕数据展开，其重要性堪比信息化时代的“石油”。因此，大多数的公司都会建设自己的数据资产平台，一方面是为了做一些诸如统一数据口径一类的基础工作，另一方面也是为了深入挖掘数据的价值，为企业带来高额的利润回报。

回看过去的发展历史，围绕着数据的采集、建设、管理和应用，已经基本形成了体系化的建设方法。运营在做定价的时候，需要数据的支持；财务在评估预算的时候，需要数据的支持；法务在判定风险时，同样需要数据的支持…… 同时，随着企业发展的进行，数据口径的统一需要对数据进行治理；成本的管理需要对数据进行治理；支持业务的增多需要对数据进行治理…… 凡此种种，当我们缺少了数据资产门户的时候，很多的治理和查询工作，便很容易产生乱子。

某些意义上，数据资产的整理，是一种“脏活累活”，需要持续的维护和迭代，但做好之后，其发挥的价值，也是非常大的，只不过这种价值需要依附于别的项目才能体现出来。

因此，本文简单介绍一种整理数据资产的方法，供大家交流，篇幅不长，介绍思路更多一些。

其实数据的整理，用“运营”的思路来讲，更像是“品类规划”。只有把类目和索引做到了，全局层面便有了可视化的基础，后续资产的整理和归类，也会有科学的指引。

像比较大一点的互联网公司，业务通常不是单一的，因此如何仿照类目的思路，将一、二、三级索引做好，就是一个关键点和难点。

从消费者的视角，可以根据行为偏好、互动行为、个人属性、社交关系等方面构建类目，行为偏好又可以分为购买行为、点击行为、浏览行为，等等；从业务的视角，可以根据电商、金融、社交、媒体等业务属性构建类目，电商又可以分为B2C、C2C、B2B2C等不同的业务模式；从部门的视角，又可以根据XX事业部这种方式来建设，然后一级一级细分到具体负责的团队。总之，根据某一种分类的原则，将一二三级类目做完整，通常情况下可以很快的定位到需要的数据。

当然，只有类目也是不行的，这时候支持一个基本的搜索功能，将业务名、表名、字段名、属性名等做成模糊匹配的方法，供用户搜索和查询，便可以支持绝大多数的自行查询场景。

当然，因为表或者字段的展示格式都是固定的，因此搜索的结果可以做到非常的美观，配合手工打上的标签，90%以上的场景都可以支持用户自定义查询。

总结一下，资产的导航，适合以“类目”的方式进行组织，以搜索的方式配合使用，展示的接口以树形最佳，配合标签等个性化的内容，可以最大程度上满足查询诉求。

当用户查询到需要使用的数据时，下一步便是如何获取和使用数据。在通常的技术场景下，研发的同学只需要申请对应的表权限既可以获得。

但现在是有三种情况，我们需要分别看获取的方式：

一种是这种数据不适合直接开放底表，因为权限隔离的缘故，不能把所有权限开放出去，这时候就需要有资产分离的功能，也就是根据适用范围申请数据；

一种是非技术的同学申请，通常直接给一个表也是不知道怎么用的，可能给一个数据看板，或者是申请一个数据集，更合适一些，非研发的同学，可以使用报表工具自行配置。当然这种场景可以支持的数据查询能力会比较有限，需要尽可能的将报表的门户建设做好之后，再开放出去；

一种是有明确数据安全场景的诉求，比如最近刚出台的“个保法”，对于用户隐私的数据监管非常严格，这时候就需要配套有对应的法务审批或者是其他的数据安全接口人审批，这里的流程也是要单独设置的。

但不论哪种方式，都少不了完善的数据使用流程，这其实是属于“流程管理”的范畴，系统通常会默认指定审批人，但如果有特殊的需要，比如“个保法”，通常也需要能够自行设定审批流程。

总结一下，数据的获取，根据场景和使用人的不同，提供数据表、字段或者是报表等多种方式，同时要配合有相应的权限审批和资产分离的功能。

数据的治理也是一项比较重要但繁琐的工作。因为数据资产的录入，通常是人来维护的，那么相同的指标，录入多次的时候，用户以哪次为准呢？这就是最典型维护难题，因此，在录入或者自动更新数据的时候，提供一些提示性的功能，或者通过“精品”、“临时”等标签予以区分，也是一种可行的思路。

因而，通常情况下，技术提供的公共资产，一般以公共层的数据为准，只有明确使用场景的情况下，ADS才会被提供出来。

接下来，就是针对庞大的数据资产，构建自动化的诊断和分析功能了，关于如何用数据来治理资产，参考个人之前的文章《数据资产治理概要：用数据来治理数据》。标准化的治理之前，通常需要有全局的数据资产视图，才能制定出明确的目标、范围和结果。

最后，数据资产的使用，通常也是需要有稳定性的治理，比如每个表或者某一份数据，更新的频率、每次更新的时间等，都需要有说明提供给使用者，而开发来维护显然是不现实的，因此通过监控Hadoop集群的运行结果来自动更新，就是一种不错的方法。同时，一些执行明显偏慢但又使用者非常多的数据，也可以有相应的预警邮件提供给使用者。

数据资产的管理，底层也是基于数仓建模、数据平台、元数据标准、质量监控等基础的机制，配合组织的审批、管理等标准，最终才能服务于顶层战略。

⑸ 如何有效的进行数据治理和数据管控

大数据时代的到来，让政府、企业看到了数据资产的价值，并快速开始 探索 应用场景和商业模式、建设技术平台。但是，如果在大数据拼图中遗忘了数据治理，那么做再多的业务和技术投入也是徒劳的，因为很经典的一句话：Garbage in Garbage out。

当你处理或使用过大量数据，那么对“数据治理”这个词你一定不会陌生。你会思考数据治理是什么？数据治理是否适合你？如何实施。简单来说，数据治理就是处理数据的策略——如何收集、验证、存储、访问、保护和使用数据。数据治理也还包括谁来查看，使用，共享你的数据。

随着大数据时代的推进，以上这些问题日益突出，越来越多的企业依赖采集、治理、储存和分析数据，并实现他们的商业目标。数据变成了企业的盈利工具、业务媒介和商业机密。数据泄露会导致法律纠纷，还会令消费者对公司的核心业务失去信心。

如果抱着侥幸的心理，让各个业务部门自己管理数据，那么你会缺乏有效的数据管理，甚至各部门会自己做自己的。你无法想象各个部门按随心所欲地自己生产、储存、销售产品。数据使用不当就像库存使用不当一样，会给企业造成沉重的损失。因此必须制定一项测量用以保证所需数据的有效和安全，可用性，这就是我们要谈的“数据治理”。

数据治理策略必须包含完整的数据生命周期。策略必须包含从数据采集、清洗到管理，在这个生命周期内，数据治理必须要有关注以下内容：

数据从哪里来，数据怎么来

这是数据生命周期的起点。数据来源决定了数据治理策略的基础。例如数据集的大小就由数据来源所决定。是从目标市场、现存用户和社交媒体收集数据？还是使用第三方收集数据或者分析你收集的数据？输入数据流是什么？数据治理必须关注这些问题，并制定策略来管理数据的采集，引导第三方处理他们收集的数据或者分析你收集的数据，控制数据的路径和生命周期。

数据校验

通常数据源都是非常庞大且多样的，这是一个让数据管理者非常头疼的问题。将数据噪音和重要数据进行区分仅仅只是开始，如果你正从关联公司收集数据，你必须确保数据是可靠的，对于那些几万、几十万、甚至成百上千万的复杂关系数据，单靠人为的通过Excel对进行数据清洗已经不太现实，需要专业的数据清洗工具或系统对海量复杂关系数据进行批量查询、替换、纠正、丰富以及存储。将元数据、主数据、交易数据、参考数据以及数据标准内置固化到数据清洗工具或系统中，结合组织架构、内容管控、过程管控等管理机制、技术标准提高数据治理人员的工作效率。比如：需要手工编写程序收集的元数据，系统帮你自动获取；需要人工识别或编写代码实现的数据质量检查，系统帮你自动识别问题；用文档管理的数据字典，系统帮你在线管理；基于邮件和线下的流程，系统帮你线上自动化。当然，系统并不是万能的，数据治理的软件工具与其他软件工具一样，没有什么神奇之处，没有数据治理人员的参与和数据治理工作的推进，软件再完美也无法完成数据治理整个过程。这也是为什么数据治理咨询服务一直有其市场，以及为什么国内大部分单纯数据治理软件项目未能达到预期目标。

数据治理必须解决存储问题

而数据存储和数据集的大小有密切关系。大数据的存储必须是在安全的冗余系统之中。常常利用层次体系，根据使用频率来存储数据。这样一来，昂贵的在线系统提供的是被频繁请求的数据，而请求频率较低的数据则存储在便宜，可用率较低的系统上。当然，一些请求频率低但是敏感的数据如果存储于安全性较低的系统上，风险会大大提升。因此，在制定数据存储方案时，良好的数据治理策略必须考虑到方方面面的因素。

数据治理必须建立访问管理制度，在需求和安全性找到平衡点

明确访问者的权限，只能访问他们对应权限包含的数据。只有合法请求才能够访问数据，而敏感的数据需要更高的权限和更严密的验证才可以被访问。只向具有特定安全级别的用户开放。应该对用户和数据本身设置访问级别，管理账户时，应与人力资源部和采购部紧密互动，这一点非常重要，因为这样可以及时地使离职员工和停止合作的供应商不再拥有访问权限。处理好这些细节以及确保数据所有权和责任，这是构成完整的数据治理策略的一部分。

数据的使用/共享/分析

如何使用数据是数据治理之后一项重要的内容，数据可能会用于客户管理，提高客户体验，投放定向广告，用户应用系统初始化基础数据工作，辅助应用系统建设，提供市场分析和关联公司共享数据。必须仔细界定哪些数据可用于共享或者用于营销，并保护它们免遭攻击和泄露，因为数据本来就应该被用于纯粹的内部用途。让用户知悉采集数据的所有公司都会遵守数据安全和保证的规定。能够确保数据被合理合规的使用，也是数据治理重要的一项内容。

收集、验证、存储、访问和使用都是数据安全计划的必要组成部分

收集、验证、存储、访问和使用都是数据安全计划的必要组成部分，必须要有一个全面的策略来解决这些问题以及其他安全问题。数据安全计划必须是有效且可用性高，但是数据生命周期的所有部分都很容易受到攻击和由于粗心造成的破坏。你必须在数据治理中确定数据安全计划，包括访问控制，静态数据，数据加工，数据传输之后的加密等。

管理/元数据

没有管理的数据生命周期是不完整的。例如，将元数据应用于一段数据，用来进行识别检索。元数据包含数据的来源，采集或生成的日期，信息访问的级别，语义分类及其他企业所必须的信息。数据治理能建立一个元数据词汇表，界定数据的有效期。请注意数据也会过期，过期之后我们只能用于 历史 数据的分析。

数据治理创建的过程中可能会在企业内部遭到一些阻力，比如有的人会害怕失去访问数据的权限，而有些人也不愿意和竞争者共享数据。数据治理政策需要解决上述问题，让各方面的人都可接受。习惯了数据筒仓环境的公司，在适应新的数据治理策略上面会有困难，但如今对大型数据集的依赖以及随之而来的诸多安全问题，使创建和实施覆盖全公司的数据策略成为一种必然。

数据日益成为企业基础设施的一部分，在企业一步步处理各种特定情况的过程中形成决策。它以一次性的方式作出，常常是对某一特定问题的回应。因此，企业处理数据的方法会因为不同部门而改变，甚至会因为部门内部的不同情况而改变。即使每个部门已经有一套合理的数据处理方案，但这些方案可能彼此冲突，企业将不得不想办法协调。弄清数据存储的要求和需求是一件难事，如果做得不好，就无法发挥数据在营销和客户维系方面的潜力，而如果发生数据泄露，你还要承担法律责任。

另外在大企业内部，部门之间会展开对数据资源的争夺，各部门只关注自身的业务情况，缺乏全局观念，很难在没有调解的情况下达成妥协。

因此公司需要一个类似数据治理委员会的机构，他的职责是执行现有数据策略、挖掘未被满足的需求以及潜在安全问题等，创建数据治理策略，使数据的采集、管护、储存、访问以及使用策略均实现标准化，同时还会考虑各个部门和岗位的不同需求。平衡不同部门之间存在冲突的需求，在安全性与访问需求之间进行协调，确保最高效、最安全的数据管理策略。

建立数据治理委员会

负责评估各个数据用户的需求，建立覆盖全公司的数据管理策略，满足内部用户、外部用户甚至法律方面的各种需求。该委员会的成员应该囊括各个业务领域的利益相关者，确保各方需求都得到较好地满足，所有类型的数据所有权均得到体现。委员会也需要有数据安全专家，数据安全也是重要的一环。了解数据治理委员会的目标是什么，这一点很重要，因此，应该思考企业需要数据治理策略的原因，并清楚地加以说明。

制定数据治理的框架

这个框架要将企业内部、外部、甚至是法律层面的数据需求都纳入其中。框架内的各个部分要能够融合成一个整体，满足收集、清洗、存储、检索和安全要求。为此，企业必须清楚说明其端到端数据策略，以便设计一个能够满足所有需求和必要操作的框架。

有计划地把各个部分结合起来，彼此支持，这有很多好处，比如在高度安全的环境中执行检索要求。合规性也需要专门的设计，成为框架的一部分，这样就可以追踪和报告监管问题。这个框架还包括日常记录和其他安全措施，能够对攻击发出早期预警。在使用数据前，对其进行验证，这也是框架的一部分。数据治理委员会应该了解框架的每个部分，明确其用途，以及它如何在数据的整个生命周期中发挥作用。

数据测试策略

通常一个数据策略需要在小规模的商用环境中进行测试，用来发现数据策略在框架，结构和计划上的不足之处并进行调整，之后才能够投入正式使用。

数据治理策略要与时俱进

随着数据治理策略延伸到新的业务领域，肯定需要对策略进行调整。而且，随着技术的发展，数据策略也应该发展，与安全角势、数据分析方法以及数据管理工具等保持同步。

明确什么是成功的数据策略

我们需要确立衡量数据治理是否成功的明确标准，以便衡量进展。制定数据管理目标，有助于确定成功的重要指标，进而确保数据治理策略的方向是符合企业需求。

无论企业大小，在使用数据上都面临相似的数据挑战。企业越大，数据越多，而数据越多，越发需要制定一个有效的，正式的数据治理策略。规模较小的企业也许只需要非正式的数据治理策略就足够了，但这只限于那些规模很小且对数据依赖度很低的公司。即便是非正式的数据治理计划也需要尽可能考虑数据用户和员工数据的采集、验证、访问、存储。

当企业规模扩大，数据需求跨越多个部门时，当数据系统和数据集太大，难以驾驭时，当业务发展需要企业级的策略时，或者当法律或监管提出需求时，就必须制定更为正式的数据治理策略。