① 数据采集是什么意思
2019年发布的《水污染源在线监测系统(CODCr、NH3N等)安装技术规范》(HJ353-2019)以及相应的验收、运行和数据有效性判别技术规范(HJ354-2019、HJ355-2019、HJ356-2019),要求数据采集传输仪符合新的要求。
DR-295A数据采集传输仪达到并优于《HJ477污染源在线自动监控(监测)数据采集传输仪技术要求》和《污染源在线自动监控(监测)系统数据传输标准》(HJ/T 212)。针对污染源污水排放的特点,根据HJ35X系列数据控制单元标准规范,可以远程操控,协调统一运行水污染源在线监测系统,采集、储存、显示监测数据及运行日志,向监控中心平台上传污染源监测数据。
想找个兴趣相投的人?来这里遇见青春与活力!
广告
想找个兴趣相投的人?来这里遇见青春与活力!
工作流程如下:
数据采集仪应安装在室内,使用场所不得有腐蚀性气体,并避免阳光直射、强烈冲击、振动及外界强磁场的干扰本仪器广泛应用于废水、废气的污染源排放口,及饮用水水源地、河流、湖泊、水库、自来水厂、污水处理厂等重金属水质监测站,为监测部门提供可靠、有效、完整的数据资料。
仪器功能:
(1) 可以读取现场在线设备的测量数据,报警信息。
(2) 可以控制现场在线设备的启动和停止,设备校准。
(3) 数据采集传输控制器可以设定周期测量,定时测量,远程测量的测量模式;并可以根据选定的测量模式对现场的在线设备进行控制。
(4) 和现场在线设备连接的串口号和协议类型可自由选择。
(5) 本地历史数据显示功能:显示现场在线设备的历史数据,小时,日,月,季,年;
(6) 对所存储的数据进行检索(按照搜索条件搜索)。
(7) 报警功能:分析仪的数值超过设定阈值、数据采集传输控制器停电、通讯异常、在线设备报警。将这些报警信息上传到平台。
(8) 在线设备测量记录,维护记录:开箱记录、仪器校准记录。
(9) 校时功能:可与中心平台在线校时。
(10) 数据保密功能:为了防止他人误改配置,需输入用户名与密码后才可对设备进行管理(能够设置三级系统登录密码及相应操作权限)。
(11) 可接收质控仪对在线设备的指令操作,满足质控仪协议(质控仪为主控)。
(12) 上报数据时报文内的时间标记与水质自动分析仪测量结果存储的时间标记保持一致;数据采集传输控制器应能存储一个月分钟数据记录。
(13) 具备 6 个 RS 232,2个 RS 485数字通道用于和现场的在线设备通讯。
(14) 8个模拟量输入通道(4~20)mA,用于连接现场的在线设备通过模拟量读取在线设备的测量数据(数据采集精度和测量稳定性≤0.1%,至少12位AD)。
(15) 2个(4~20)mA输出通道(稳定性≤0.2%)。
(16) 8个开关量输入通道,用于检测外部的设施工作状态。开关量电压输入范围为(0~5)V。
(17) 8个开关量输出通道(4路干节点,4路DC24V mos管驱动输出(2A电流))。
(18) 无线传输方式:通过 GPRS无线方式与上位机通讯(外挂DTU)。
(19) 网络链接:直接通过局域网或 internet 与上位机通讯。
(20) 仪器自带备用电池或配装不间断电源(UPS),在外部供电切断情况下能保证数据采集传输控制器连续工作 6 h,并且在外部电源断电时自动发送报警信息给上位机。数据采集传输控制器必须能够在供电(特别是断电后重新供电)后可靠地自动启动运行,并且所存数据不丢失。
(21) 支持U盘导出数据或者专用软件导出数据,支持U盘升级功能。
(22) 人机界面:10英寸及以上TFT液晶显示器。
(23) 看门狗复位:设备死机可自动重启,停电并来电后亦可自启。
(24) 污染源现场的在线设备可以根据现场的环境随时增删。
(25) 中心平台和数据采集传输控制器之间通讯协议满足HJ212-2017协议。
(26) 对上位机上传的污染源监测数据必须有数据状态标识(HJ212协议状态标识)。
(27) HJ212协议中规定的加密方法进行加密处理传输(PW关键字),保证数据传输的安全性。一端请求连接另一端应进行身份验证。
(28) 中心平台可以远程查看现场所有在线设备的数据以及工作状态(是否正常),可以查看现场所有在线设备的报警信息和数据采集传输控制器本身的工作状态、报警信息。可以通过中心平台配置数据采集传输控制器的所有信息。
(29) 数据补传功能:数据可以从分析仪补传到数据采集传输控制器;也可以从数据采集传输控制器通过网络补传到中心平台。
(30) 整个系统在线率为90%以上,正常情况下,掉线后应在5分钟之内重新上线。单台现场机(数据采集传输控制器)每日掉线次数在5次以内。数据传输稳定,报文传输稳定性在99%以上,当出现报文错误或丢失时,启动纠错逻辑,数据采集传输控制器重新发送报文。
② 什么是数据采集
数据采集,又称数据获取,在计算机广泛应用的今天,数据采集的重要性是十分显着的。它是计算机与外部物理世界连接的桥梁。
数据采集一般需要遵循以下原则:
1. 数据采集任务不能影响业务系统的运行。一般来说,核心业务系统白天工作频繁,难以承载数据抽取的要求,这种情形下数据抽取工作原则上要安排在非工作时段进行。数据采集任务调度必须可以设定数据采集任务的优先时段表。
2. 不同业务系统的数据产生周期不同,会影响到数据采集的周期。数据采集应根据业务系统及交换数据的周期要求,设定数据采集时间周期表。
3. 数据采集任务的执行时间原则上应与数据采集周期时间成正比,即数据采集周期时间间隔要求短(长)的采集任务,其采集任务的执行时间也要求短(长)。如对按日采集的数据,应能在3一5h内完成抽取、清洗、加载、处理等工作;对按月采集的数据,数据抽取、清洗、加载和处理等工作可以放宽到48h内完成。
4. 对于数据采集量特别大且数据转换操作特别复杂的任务,利用ETL工具会消耗大量的资源和时间,建议通过编制专门数据采集接口程序完成数据采集任务,以提高数据采集工作的效率。
5. 以数据源为单位进行的全量采集的任务,可以以数据源为单位进行数据初始化操作,当数据源的数据采集操作出现问题时,可以仅对该数据源进行全量采集恢复,而对其他数据源的数据采集没有任何影响。
现在的101 异构数据采集技术可以做到无需软件厂商配合,直接采集异构数据,这样的数据采集就不需要协调各个厂家,不需要花费高昂的接口费用,而施工周期也不会太长,是很多领域大型企业数据采集业务的第一选择。
③ 什么是数据采集
数据采集,又称数据获取,是利用一种装置,从系统外部采集数据并输入到系统内部的一个接口。数据采集技术广泛应用在各个领域。比如摄像头,麦克风,都是数据采集工具。
在互联网行业快速发展的今天,数据采集已经被广泛应用于互联网及分布式领域,数据采集领域已经发生了重要的变化。首先,分布式控制应用场合中的智能数据采集系统在国内外已经取得了长足的发展。其次,总线兼容型数据采集插件的数量不断增大,与个人计算机兼容的数据采集系统的数量也在增加。国内外各种数据采集机先后问世,将数据采集带入了一个全新的时代。
采集的全面性:采集的数据量足够大具有分析价值、数据面足够支撑分析需求。比如查看app的使用情况这一行为,我们需要采集从用户触发时的环境信息、会话、以及背后的用户id,最后需要统计这一行为在某一时段触发的人数、次数、人均次数、活跃比等。
采集的多维性:数据更重要的是能满足分析需求。灵活、快速自定义数据的多种属性和不同类型,从而满足不同的分析目标。比如“查看app的使用情况”这一行为,我们需要采集用户使用的app的哪些功能、点击频率、使用时常、打的app的时间间隔等多个属性。才能使采集的结果满足我们的数据分析!
采集的高效性:高效性包含技术执行的高效性、团队内部成员协同的高效性以及数据分析需求和目标实现的高效性。
明确数据需求:
由于客户所处行业不同,诉求也就各不一样。所以首先必须明确客对于数据的最终用途,确定客户需求。根据客户所需搜集的数据信息与客户沟通之后,总结需要收集的字段。
2.调研数据来源:
根据客户需求确定数据采集范围。然后锁定采集范围和对采集的数据量进行预估。细化客户需求,研究采集方向。
3.确定用什么采集工具、软件、代码
面对不同的网站我们只有选择更加合适的组合才能使采集结果更加有效。
4.确定存储的方式:
根据采集量的大小对数据储存的方式进行划分。比较小的数据,一般使用excel表格存储;几千万的大型数据,选择数据库存储;对于GB级别的数据,就得用Hadoop、Spark、Redis等分布式存储和处理技术的方法才能做到较好的管理和计算。选择正确数据存储的方式使客户对数据的使用与管理更加便捷。