导航:首页 > 数据处理 > 批量数据怎么存入hbase

批量数据怎么存入hbase

发布时间:2024-02-01 19:46:52

1. 如果有几百亿条数据,如何在hbase表中存放

1、首先你有没有那么多台服务器的集群,如果只是几台,你要想够不够,你的hbase 有几百亿,那么你hdfs上的数据可能要有两个备份,你这几百亿条是如何生成的,肯定是maprece跑出来导入到hbase中把,那么原始数据你要不要留,如果留,加上备份就要三份,所以节点的多少要确定。
2、几百亿其实挺多的,hbase 的设计一定要跟你的业务相关,hbase他不能完全像关系型数据库那样去随意查询,到达一定量级,如果设计的不好也是非常之慢的,甚至将hbase搞到崩溃。所以你先去网上看看rowkey的设计原则,比如长度原则等等,然后根据自己业务,哪些查询经常用到,哪些不会用到,想要用hbase实现那种非常灵活的类似关系数据库的查询是不理智的。
3、楼上的兄弟说得对,还有region热点的问题,如果你的hbase数据不是那种每天增量的数据,建议跑个maprece对你的数据进行各评判,看看如何能将数据尽可能均匀的分配到每个region中,当然这需要预先分配region
4、几百亿条数据,如果对rowkey进行模糊过滤一定非常非常之慢,所以可以考虑二级索引或者协处理器

阅读全文

与批量数据怎么存入hbase相关的资料

热点内容
中国有哪些币的交易所 浏览:563
汽车大数据分析软件哪个比较好 浏览:998
海南面点技术学校哪里学 浏览:991
aprgiac程序哪个好 浏览:391
作家怎么出版代理机构 浏览:210
高技术增加值什么意思 浏览:316
常州专利代理要多少费用 浏览:432
收到微信信息为什么没震动 浏览:243
qq小程序游戏怎么没有声音 浏览:410
扫码显示信息如何制作 浏览:131
怎么跟顾客销售自己的产品 浏览:235
头条中搜狐小程序如何收藏 浏览:219
玻璃库存数据哪里看 浏览:935
程序员一天要打多少字 浏览:16
表格里的信息怎么能换行 浏览:362
去油污用什么洗涤产品 浏览:721
租金怎么分摊到产品 浏览:625
芯片技术到什么程度了 浏览:38
如何看懂电气程序图 浏览:478
酒水总代理品牌有哪些 浏览:332