博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
hbase.client.keyvalue.maxsize的默认值
阅读量:6110 次
发布时间:2019-06-21

本文共 1409 字,大约阅读时间需要 4 分钟。

hbase的列族的最大值是在hbase配置里的hbase.client.keyvalue.maxsize,默认大小为10M,即 10485760 。
 
一直使用hbase作大容量存储,因为hbase易于存取。
今天,在录入数据的时候,突然报出一个KeyValue size too large。很是奇怪。
private void validatePut(final Put put) throws IllegalArgumentException{    if (put.isEmpty()) {      throw new IllegalArgumentException("No columns to insert");    }    if (maxKeyValueSize > 0) {      for (List list : put.getFamilyMap().values()) {        for (KeyValue kv : list) {         if (kv.getLength() > maxKeyValueSize) {              throw new IllegalArgumentException("KeyValue size too large");          }        }      }    }  }

 

说明当某一列的值大于该值的时候,将会抛出该异常,又查看maxKeyValueSize,发现它调用的是hbase配置里的hbase.client.keyvalue.maxsize,默认大小为10M,即 10485760 。将它改大即可。

但是,当我修改完以后,启动hbase总是出问题,后来又将hbase-env.sh里的HBASE_HEAPSIZE改大。

后来又将mapred-site.xml中的mapred.tasktracker.indexcache.mb改大,至于大于hbase.client.keyvalue.maxsize,不知道有没有影响,以防万一吧,我觉得hbase的执行应该是跟job有关系的吧。

请大家多多指教

 

private void validatePut(final Put put) throws IllegalArgumentException{      if (put.isEmpty()) {        throw new IllegalArgumentException("No columns to insert");      }      if (maxKeyValueSize > 0) {        for (List
list : put.getFamilyMap().values()) { for (KeyValue kv : list) {
if (kv.getLength() > maxKeyValueSize) { throw new IllegalArgumentException("KeyValue size too large"); } } } } }

 

 

转载地址:http://rlkka.baihongyu.com/

你可能感兴趣的文章
angularjs表达式中的HTML内容,如何不转义,直接表现为html元素
查看>>
css技巧
查看>>
Tyvj 1728 普通平衡树
查看>>
[Usaco2015 dec]Max Flow
查看>>
javascript性能优化
查看>>
多路归并排序之败者树
查看>>
java连接MySql数据库
查看>>
转:Vue keep-alive实践总结
查看>>
android studio修改新项目package名称
查看>>
深入python的set和dict
查看>>
C++ 11 lambda
查看>>
Hadoop2.5.0 搭建实录
查看>>
实验吧 recursive write up
查看>>
High-speed Charting Control--MFC绘制图表(折线图、饼图、柱形图)控件
查看>>
go test命令參数问题
查看>>
linux 搜索文本
查看>>
超实用Mac软件分享(二)
查看>>
Android JSON数据解析
查看>>
DEV实现日期时间效果
查看>>
java注解【转】
查看>>