HBase Filter 过滤器之 DependentColumnFilter 详解

前言：本文详细介绍了 HBase DependentColumnFilter 过滤器 Java&Shell API 的使用，并贴出了相关示例代码以供参考。DependentColumnFilter 也称参考列过滤器，是一种允许用户指定一个参考列或引用列来过滤其他列的过滤器，过滤的原则是基于参考列的时间戳来进行筛选。

该过滤器尝试找到该列所在的每一行，并返回该行具有相同时间戳的全部键值对;如果某行不包含这个指定的列，则什么都不返回。参数dropDependentColumn 决定参考列被返回还是丢弃，为true时表示参考列被返回，为false时表示被丢弃。可以把DependentColumnFilter理解为一个valueFilter和一个时间戳过滤器的组合。如果想要获取同一时间线的数据可以考虑使用此过滤器。比较器细节及原理请参照之前的更文：HBase Filter 过滤器之比较器 Comparator 原理及源码学习。

一。Java Api

头部代码

public class DependentColumnFilterDemo {

    private static boolean isok = false;
    private static String tableName = "test";
    private static String[] cfs = new String[]{"f1", "f2"};
    private static String[] data1 = new String[]{"row-1:f2:c3:1234abc56", "row-3:f1:c3:1234321"};
    private static String[] data2 = new String[]{
            "row-1:f1:c1:abcdefg", "row-1:f2:c2:abc", "row-2:f1:c1:abc123456", "row-2:f2:c2:1234abc567"
    };

    public static void main(String[] args) throws IOException, InterruptedException {

        MyBase myBase = new MyBase();
        Connection connection = myBase.createConnection();
        if (isok) {
            myBase.deleteTable(connection, tableName);
            myBase.createTable(connection, tableName, cfs);
            // 造数据
            myBase.putRows(connection, tableName, data1);  // 第一批数据
            Thread.sleep(10);
            myBase.putRows(connection, tableName, data2);  // 第二批数据
        }
        Table table = connection.getTable(TableName.valueOf(tableName));
        Scan scan = new Scan();

中部代码
向右滑动滚动条可查看输出结果。

        // 构造方法一
        DependentColumnFilter filter = new DependentColumnFilter(Bytes.toBytes("f1"), Bytes.toBytes("c1"));  // [row-1:f1:c1:abcdefg, row-1:f2:c2:abc, row-2:f1:c1:abc123456, row-2:f2:c2:1234abc567]

        // 构造方法二 boolean dropDependentColumn=true
        DependentColumnFilter filter = new DependentColumnFilter(Bytes.toBytes("f1"), Bytes.toBytes("c1"), true);  // [row-1:f2:c2:abc, row-2:f2:c2:1234abc567]

        // 构造方法二 boolean dropDependentColumn=false  默认为false
        DependentColumnFilter filter = new DependentColumnFilter(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false); // [row-1:f1:c1:abcdefg, row-1:f2:c2:abc, row-2:f1:c1:abc123456, row-2:f2:c2:1234abc567]

        // 构造方法三 + BinaryComparator 比较器过滤数据
        DependentColumnFilter filter = new DependentColumnFilter(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,
                CompareFilter.CompareOp.EQUAL, new BinaryComparator(Bytes.toBytes("abcdefg"))); // [row-1:f1:c1:abcdefg, row-1:f2:c2:abc]

        // 构造方法三 + BinaryPrefixComparator 比较器过滤数据
        DependentColumnFilter filter = new DependentColumnFilter(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,
                CompareFilter.CompareOp.EQUAL, new BinaryPrefixComparator(Bytes.toBytes("abc")));  // [row-1:f1:c1:abcdefg, row-1:f2:c2:abc, row-2:f1:c1:abc123456, row-2:f2:c2:1234abc567]

        // 构造方法三 + SubstringComparator 比较器过滤数据
        DependentColumnFilter filter = new DependentColumnFilter(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,
                CompareFilter.CompareOp.EQUAL, new SubstringComparator("1234"));  // [row-2:f1:c1:abc123456, row-2:f2:c2:1234abc567]

        // 构造方法三 + RegexStringComparator 比较器过滤数据
        DependentColumnFilter filter = new DependentColumnFilter(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,
                CompareFilter.CompareOp.EQUAL, new RegexStringComparator("[a-z]"));  // [row-1:f1:c1:abcdefg, row-1:f2:c2:abc, row-2:f1:c1:abc123456, row-2:f2:c2:1234abc567]

        // 构造方法三 + RegexStringComparator 比较器过滤数据
        DependentColumnFilter filter = new DependentColumnFilter(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,
                CompareFilter.CompareOp.EQUAL, new RegexStringComparator("1234[a-z]"));  // []  思考题：与上例对比，想想为什么为空？

该过滤器同时也支持各比较器的不同比较语法，同之前介绍的各种过滤器是一样的，这里不再一一举例了。

尾部代码

        scan.setFilter(filter);
        ResultScanner scanner = table.getScanner(scan);
        Iterator<Result> iterator = scanner.iterator();
        LinkedList<String> keys = new LinkedList<>();
        while (iterator.hasNext()) {
            String key = "";
            Result result = iterator.next();
            for (Cell cell : result.rawCells()) {
                byte[] rowkey = CellUtil.cloneRow(cell);
                byte[] family = CellUtil.cloneFamily(cell);
                byte[] column = CellUtil.cloneQualifier(cell);
                byte[] value = CellUtil.cloneValue(cell);
                key = Bytes.toString(rowkey) + ":" + Bytes.toString(family) + ":" + Bytes.toString(column) + ":" + Bytes.toString(value);
                keys.add(key);
            }
        }
        System.out.println(keys);
        scanner.close();
        table.close();
        connection.close();
    }
}

二。Shell Api

HBase test 表数据一览：

hbase(main):009:0> scan 'test'
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-1                                           column=f2:c3, timestamp=1589794115241, value=1234abc56
 row-2                                           column=f1:c1, timestamp=1589794115268, value=abc123456
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
 row-3                                           column=f1:c3, timestamp=1589794115241, value=1234321
3 row(s) in 0.0280 seconds

0. 简单构造方法

hbase(main):006:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1')"}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f1:c1, timestamp=1589794115268, value=abc123456
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0450 seconds

hbase(main):008:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1',false)"}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f1:c1, timestamp=1589794115268, value=abc123456
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0310 seconds

hbase(main):007:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1',true)"}
ROW                                              COLUMN+CELL
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0250 seconds

1. BinaryComparator 构造过滤器

方式一：

hbase(main):004:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1',false,=,'binary:abcdefg')"}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
1 row(s) in 0.0330 seconds

hbase(main):005:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1',true,=,'binary:abcdefg')"}
ROW                                              COLUMN+CELL
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
1 row(s) in 0.0120 seconds

支持的比较运算符：= != > >= < <=，不再一一举例。

方式二：

import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.BinaryComparator
import org.apache.hadoop.hbase.filter.DependentColumnFilter

hbase(main):016:0> scan 'test',{FILTER => DependentColumnFilter.new(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,CompareFilter::CompareOp.valueOf('EQUAL'), BinaryComparator.new(Bytes.toBytes('abcdefg')))}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
1 row(s) in 0.0170 seconds

hbase(main):017:0> scan 'test',{FILTER => DependentColumnFilter.new(Bytes.toBytes("f1"), Bytes.toBytes("c1"), true,CompareFilter::CompareOp.valueOf('EQUAL'), BinaryComparator.new(Bytes.toBytes('abcdefg')))}
ROW                                              COLUMN+CELL
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
1 row(s) in 0.0140 seconds

支持的比较运算符：LESS、LESS_OR_EQUAL、EQUAL、NOT_EQUAL、GREATER、GREATER_OR_EQUAL，不再一一举例。

推荐使用方式一，更简洁方便。

2. BinaryPrefixComparator 构造过滤器

方式一：

hbase(main):019:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1',false,=,'binaryprefix:abc')"}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f1:c1, timestamp=1589794115268, value=abc123456
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0330 seconds

hbase(main):020:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1',true,=,'binaryprefix:abc')"}
ROW                                              COLUMN+CELL
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0600 seconds

方式二：

import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.BinaryPrefixComparator
import org.apache.hadoop.hbase.filter.DependentColumnFilter

hbase(main):023:0> scan 'test',{FILTER => DependentColumnFilter.new(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,CompareFilter::CompareOp.valueOf('EQUAL'), BinaryPrefixComparator.new(Bytes.toBytes('abc')))}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f1:c1, timestamp=1589794115268, value=abc123456
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0180 seconds

hbase(main):022:0> scan 'test',{FILTER => DependentColumnFilter.new(Bytes.toBytes("f1"), Bytes.toBytes("c1"), true,CompareFilter::CompareOp.valueOf('EQUAL'), BinaryPrefixComparator.new(Bytes.toBytes('abc')))}
ROW                                              COLUMN+CELL
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0190 seconds

其它同上。

3. SubstringComparator 构造过滤器

方式一：

hbase(main):025:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1',false,=,'substring:abc')"}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f1:c1, timestamp=1589794115268, value=abc123456
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0340 seconds

hbase(main):024:0> scan 'test',{FILTER=>"DependentColumnFilter('f1','c1',true,=,'substring:abc')"}
ROW                                              COLUMN+CELL
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0160 seconds

方式二：

import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.SubstringComparator
import org.apache.hadoop.hbase.filter.DependentColumnFilter

hbase(main):028:0> scan 'test',{FILTER => DependentColumnFilter.new(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,CompareFilter::CompareOp.valueOf('EQUAL'), SubstringComparator.new('abc'))}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f1:c1, timestamp=1589794115268, value=abc123456
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0150 seconds

hbase(main):029:0> scan 'test',{FILTER => DependentColumnFilter.new(Bytes.toBytes("f1"), Bytes.toBytes("c1"), true,CompareFilter::CompareOp.valueOf('EQUAL'), SubstringComparator.new('abc'))}
ROW                                              COLUMN+CELL
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0170 seconds

区别于上的是这里直接传入字符串进行比较，且只支持EQUAL和NOT_EQUAL两种比较符。

4. RegexStringComparator 构造过滤器

import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.RegexStringComparator
import org.apache.hadoop.hbase.filter.DependentColumnFilter

hbase(main):035:0> scan 'test',{FILTER => DependentColumnFilter.new(Bytes.toBytes("f1"), Bytes.toBytes("c1"), false,CompareFilter::CompareOp.valueOf('EQUAL'), RegexStringComparator.new('[a-z]'))}
ROW                                              COLUMN+CELL
 row-1                                           column=f1:c1, timestamp=1589794115268, value=abcdefg
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f1:c1, timestamp=1589794115268, value=abc123456
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0170 seconds

hbase(main):034:0* scan 'test',{FILTER => DependentColumnFilter.new(Bytes.toBytes("f1"), Bytes.toBytes("c1"), true,CompareFilter::CompareOp.valueOf('EQUAL'), RegexStringComparator.new('[a-z]'))}
ROW                                              COLUMN+CELL
 row-1                                           column=f2:c2, timestamp=1589794115268, value=abc
 row-2                                           column=f2:c2, timestamp=1589794115268, value=1234abc567
2 row(s) in 0.0150 seconds

该比较器直接传入字符串进行比较，且只支持EQUAL和NOT_EQUAL两种比较符。若想使用第一种方式可以传入regexstring试一下，我的版本有点低暂时不支持，不再演示了。

注意这里的正则匹配指包含关系，对应底层find()方法。

DependentColumnFilter不支持使用LongComparator比较器，且BitComparator、NullComparator比较器用之甚少，也不再介绍。

到此为止，所有的比较过滤器就总结完毕了。

查看文章全部源代码请访以下GitHub地址：

https://github.com/zhoupengbo/demos-bigdata/blob/master/hbase/hbase-filters-demos/src/main/java/com/zpb/demos/DependentColumnFilterDemo.java

欢迎关注公众号

最后编辑于：2020.05.18 20:54:07

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 203,937评论 6赞 478
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 85,503评论 2赞 381
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 150,712评论 0赞 337
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 54,668评论 1赞 276
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 63,677评论 5赞 366
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 48,601评论 1赞 281
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 37,975评论 3赞 396
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 36,637评论 0赞 258
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 40,881评论 1赞 298
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 35,621评论 2赞 321
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 37,710评论 1赞 329
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 33,387评论 4赞 319
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 38,971评论 3赞 307
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 29,947评论 0赞 19
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 31,189评论 1赞 260
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 44,805评论 2赞 349
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 42,449评论 2赞 342

HBase Filter 过滤器之 DependentColumnFilter 详解

一。Java Api

二。Shell Api

0. 简单构造方法

1. BinaryComparator 构造过滤器

2. BinaryPrefixComparator 构造过滤器

3. SubstringComparator 构造过滤器

4. RegexStringComparator 构造过滤器

推荐阅读更多精彩内容