導航:首頁 > 數據處理 > 數據工程實施是什麼

數據工程實施是什麼

發布時間:2023-08-22 23:05:24

1. 實施工程師主要是做什麼的

實施工程師負責工程實施, 負責現場培訓等等。

實施工程師主要工作是負責工程實施,包括常用操作系統、應用軟體及公司所開發的軟體安裝、調試、定製開發及維護,還有少部分硬體、網路的工作等。

此外,還負責現場培訓,如現場軟體應用培訓;指蔽協助項目驗收;負責需求的初步確認,以及負責項目維護。

實施工程師能及時保質地完成平台項目的唯指州實施及售後技術支持工作。



實施工程師任職要求

1、熟練Windows/Linux操作系統逗返;

2、熟悉MSSQL/ORACLE/MYSQL三種資料庫的安裝、還原、備份及簡單優化操作;

3、熟悉IIS/Apache/Nginx其中兩種安裝配置及簡單優化操作;

4、熟悉Tomcat/WebLogic中間件的安裝配置及簡單優化操作;

5、熟悉Loadrunner壓測工具的安裝及場景測試;

6、具備敏銳的分析能力、溝通能力,可為用戶提供產品培訓和操作指導;

7、具有強烈的責任心、團隊合作和吃苦耐勞精神,能按時完成領導交待的其他任務;

8、具有良好的文字功底,可編寫項目實施及售後服務過程中的相關技術服務文檔。

2. 數據工程師是做什麼工作內容

1 維護大數據平台(這個應該是每個大數據工程師都做過的工作,或多或少會承擔「運維」的工作)

2 為集群搭大數據環境(一般公司招大數據工程師環境都已經搭好了,公司內部會有現成的大數據平台,但我這邊會私下搞一套測試環境,畢竟公司內部的大數據系統許可權限制很多,嚴重影響開發效率)

3 寫 SQL (很多入職一兩年的大數據工程師主要的工作就是寫 SQL )

4 數據遷移(有部分公司需要把數據從傳統的資料庫 Oracle、MySQL 等數據遷移到大數據集群中,這個是比較繁瑣的工作,吃力不討好)

5 應用遷移(有部分公司需要把應用從傳統的資料庫 Oracle、MySQL 等資料庫的存儲過程程序或者SQL腳本遷移到大數據平台上,這個過程也是非常繁瑣的工作,無聊,高度重復且麻煩,吃力不討好)

6 數據採集(採集日誌數據、文件數據、介面數據,這個涉及到各種格式的轉換,一般用得比較多的是 Flume 和 Logstash)

7 數據處理
7.1 離線數據處理(這個一般就是寫寫 SQL 然後扔到 Hive 中跑,其實和第一點有點重復了)
7.2 實時數據處理(這個涉及到消息隊列,Kafka,Spark,Flink 這些,組件,一般就是 Flume 採集到數據發給 Kafka 然後 Spark 消費 Kafka 的數據進行處理)

8 數據可視化(這個我司是用 Spring Boot 連接後台數據與前端,前端用自己魔改的 echarts)

9 大數據平台開發(偏Java方向的,大概就是把開源的組件整合起來整成一個可用的大數據平台這樣,常見的是各種難用的 PaaS 平台)

10 數據中台開發(中台需要支持接入各種數據源,把各種數據源清洗轉換為可用的數據,然後再基於原始數據搭建起寬表層,一般為了節省開發成本和伺服器資源,都是基於寬表層查詢出業務數據)

11 搭建數據倉庫(這里的數據倉庫的搭建不是指 Hive ,Hive 是搭建數倉的工具,數倉搭建一般會分為三層 ODS、DW、DM 層,其中DW是最重要的,它又可以分為DWD,DWM,DWS,這個層級只是邏輯上的概念,類似於把表名按照層級區分開來的操作,分層的目的是防止開發數據應用的時候直接訪問底層數據,可以減少資源,注意,減少資源開銷是減少 內存 和 CPU 的開銷,分層後磁碟佔用會大大增加,磁碟不值錢所以沒什麼關系,分層可以使數據表的邏輯更加清晰,方便進一步的開發操作,如果分層沒有做好會導致邏輯混亂,新來的員工難以接手業務,提高公司的運營成本,還有這個建數倉也分為建離線和實時的)

總之就是離不開寫 SQL ...

3. 中移鐵通數據工程建設崗是幹啥的

主要從事通信工程項目管理、組織實施、過程管控、工程協調、質量監督、費用審核等工作。鐵通公司成立於2000年12月20日,總資產136億元,注冊資本103億元。鐵通公司成立初期以「立足鐵路,面向社會,服務運輸,市場經營」為指導思想,進行了大規模的網路建設,市場經營上取得了快速的發展。中移鐵通數據工程建設崗主要從事通信工程項目管理、組織實施、過程管控、工程協調、質量監督、費用審核等工作。工程建設是指建築工程、線路管道和設備安裝工程、建築裝飾裝修工程等工程項目的新建、擴建和改建,是形成固定資產的基本生產過程及與之相關的其他建設工作總稱。

4. 數據工程師是屬於開發還是實施

數據工程師既有開發,也有實施部分。

大數據工程師可以從事對大量數據的採集、清洗、分析、治理、挖掘,並對這些數據加以利用、管理、維護和服務的相關技術工作。大數據工程師是利用大數據技術處理大量數據的專業技術人員,大數據工程師專業技術水平等級培訓考試分初級、中級、高級三個級別。

2016年工信部印發《大數據產業發展規劃(2016-2020年)》等指導性文件,提出要加快建設網路強國、數字中國、智慧社會,加快實施國家大數據戰略;同時提出要加強專業化數據工程師等大數據專業人才培養,開展大數據知識普及和教育培訓,提高社會整體認知和應用水平。

報名條件

凡遵守中華人民共和國憲法 、法律、法規,具有良好的業務素質和道德品行,具備各等級報考條件者,均可參加智慧建造師專業技術等級考試。

5. 資料庫實施、運行和維護什麼意思

資料庫維護中就是資料庫伺服器在備份或者恢復數據暫停數據輸出服務的意思。

閱讀全文

與數據工程實施是什麼相關的資料

熱點內容
怎麼把顯卡的數據弄回來 瀏覽:117
農業銀行放貸多久能查到信息 瀏覽:409
神兔手游怎麼交易 瀏覽:689
蘇聯電子技術落後中國多少年 瀏覽:7
我們必須保護哪些信息 瀏覽:73
邊坡開挖程序如何編程 瀏覽:432
哪裡有宜停車小程序 瀏覽:996
如何做文化衫代理 瀏覽:130
商丘市批發市場怎麼辦卡 瀏覽:938
哪裡當程序員最好 瀏覽:849
重慶貨車交易市場有哪些 瀏覽:132
潭門海鮮市場在哪裡呢 瀏覽:812
交易貓如何認證芝麻信用 瀏覽:580
怎麼關閉蘋果代理上網 瀏覽:263
飢荒交易小店哪些可以交易 瀏覽:669
商品虛假交易被降權怎麼辦 瀏覽:380
視頻投票小程序怎麼做 瀏覽:390
萬達信息算什麼公司 瀏覽:310
小米手機如何刪後台程序 瀏覽:725
怎麼成為騰訊廣告的代理商 瀏覽:895