導航:首頁 > 數據處理 > 批量數據怎麼存入hbase

批量數據怎麼存入hbase

發布時間:2024-02-01 19:46:52

1. 如果有幾百億條數據,如何在hbase表中存放

1、首先你有沒有那麼多台伺服器的集群,如果只是幾台,你要想夠不夠,你的hbase 有幾百億,那麼你hdfs上的數據可能要有兩個備份,你這幾百億條是如何生成的,肯定是maprece跑出來導入到hbase中把,那麼原始數據你要不要留,如果留,加上備份就要三份,所以節點的多少要確定。
2、幾百億其實挺多的,hbase 的設計一定要跟你的業務相關,hbase他不能完全像關系型資料庫那樣去隨意查詢,到達一定量級,如果設計的不好也是非常之慢的,甚至將hbase搞到崩潰。所以你先去網上看看rowkey的設計原則,比如長度原則等等,然後根據自己業務,哪些查詢經常用到,哪些不會用到,想要用hbase實現那種非常靈活的類似關系資料庫的查詢是不理智的。
3、樓上的兄弟說得對,還有region熱點的問題,如果你的hbase數據不是那種每天增量的數據,建議跑個maprece對你的數據進行各評判,看看如何能將數據盡可能均勻的分配到每個region中,當然這需要預先分配region
4、幾百億條數據,如果對rowkey進行模糊過濾一定非常非常之慢,所以可以考慮二級索引或者協處理器

閱讀全文

與批量數據怎麼存入hbase相關的資料

熱點內容
抖音數據後台在哪裡 瀏覽:475
信用卡消費不批准交易怎麼辦 瀏覽:244
批發市場的魚怎麼做 瀏覽:368
皇冠技術為什麼那麼貴 瀏覽:322
如何看待新技術賦能傳統金融 瀏覽:615
股東換法人不願意交易怎麼辦 瀏覽:121
成人高考招生代理怎麼樣 瀏覽:25
小程序如何賺外快 瀏覽:740
有什麼紙業廠招代理 瀏覽:68
蘋果11手機如何後退程序 瀏覽:61
對大數據有什麼期待 瀏覽:800
滿城哪個農貿市場好 瀏覽:103
葡萄酒紅酒代理如何起步 瀏覽:966
牛副產品怎麼開檢疫證 瀏覽:380
一個產品不好的熟食店如何逆轉 瀏覽:666
趕出市場的公司有哪些 瀏覽:764
如何將文檔轉換成執行程序 瀏覽:254
期權一般多久能交易 瀏覽:775
張店大型菜市場有哪些 瀏覽:511
如何找到拐點的數據 瀏覽:268