Java 连接Hadoop 之 Kerberos 异常

直接上完整的示例(注意事项见后面):

import org.apache.commons.io.IOUtils;
import org.apache.commons.lang3.StringUtils;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.security.UserGroupInformation;
import sun.security.krb5.PrincipalName;
import sun.security.krb5.internal.ktab.KeyTab;

import java.io.*;

/* // krb5.conf 内容
 * [libdefaults]
 *     default_realm = ${REALM}
 *     dns_lookup_realm = false
 *     dns_lookup_kdc = true
 *     allow_weak_crypto = true
 *
 * [realms]
 * ${REALM} = {
 *     default_domain = ${DNSDOMAIN}
 * }
 *
 * [domain_realm]
 *     ${HOSTNAME} = ${REALM}
 */
public class LoginUtil {
    static final String KDC = "xxx";  // kdc 地址

    public static UserGroupInformation login(String keytabPath, String kdc, String krb5Conf) throws IOException {
        String tmpKeytabPath = createTmpKeytabPath(keytabPath);
        PrincipalName oneName = KeyTab.getInstance(tmpKeytabPath).getOneName();

        // krb5.conf 的地址,低版本jdk不需要,高版本的jdk由于安全机制的变更,需要加这个东西
        // 并且需要加这一行 allow_weak_crypto = true 
        if (StringUtils.isNotBlank(krb5Conf)) {
            System.setProperty("java.security.krb5.conf", krb5Conf);
        }
        System.setProperty("java.security.krb5.realm", oneName.getRealmAsString());
        System.setProperty("java.security.krb5.kdc", kdc);
        System.setProperty("HADOOP_PROXY_USER", oneName.getNameString());

        Configuration conf = new Configuration();
        conf.set("hadoop.security.authentication", "kerberos");
        conf.set("debug", "true");
        UserGroupInformation.setConfiguration(conf);

        UserGroupInformation.loginUserFromKeytab(oneName.getName(), tmpKeytabPath);
        return UserGroupInformation.getLoginUser();
    }

    private static String createTmpKeytabPath(String keytabPath) throws IOException {
        PrincipalName oneName = KeyTab.getInstance(keytabPath).getOneName();
        String tmpDir = System.getProperty("java.io.tmpdir");
        String keytabTmpPath = tmpDir + File.separator + oneName.getNameString();
        File file = new File(keytabTmpPath);
        if (file.exists()) {
            file.delete();
        }
        file.deleteOnExit();
        try (FileInputStream inStream = new FileInputStream(keytabPath);
             FileOutputStream outStream = new FileOutputStream(file)) {
            IOUtils.copy(inStream, outStream);
        }
        return keytabTmpPath;
    }

    public static UserGroupInformation login(String keytabPath) throws IOException {
        return login(keytabPath, KDC, "/etc/krb5.conf");
    }

    public static void main(String[] args) throws Exception {
        LoginUtil.loginAs("recsys_infra");
    }

    public static UserGroupInformation loginAs(String user) throws IOException {
        String keytabPath = String.format("/rcp/hadoop/keytab/%s.keytab", user.toLowerCase());
        return login(keytabPath);
    }
}

题主遇到的问题:

连接Kerberos所有的信息都对,keytab也是合法的,但依旧连不上;报错 javax.security.auth.login.LoginException: Unable to obtain password from user;诡异的是同样的代码,同事的电脑上可以,我的电脑不行;最后定位到是Jdk的问题,低版本jdk的安全策略,跟高版本有差别;比如同事用的1.8.0_291,题主用的1.8.0_401;

解决办法

使用高版本指定krb5.conf路经 System.setProperty("java.security.krb5.conf", krb5Conf); 并在文件中设置 allow_weak_crypto = true;上面完整的例子中已经加了这个(最初题主没有加,踩了这个坑)


Jdk根源在于 sun.security.krb5.internal.crypto.Etype.getBuiltInDefaults 方法的最后一行

    public static int[] getBuiltInDefaults() {
        int var0 = 0;

        try {
            var0 = Cipher.getMaxAllowedKeyLength("AES");
        } catch (Exception var2) {
        }

        int[] var1;
        if (var0 < 256) {
            var1 = BUILTIN_ETYPES_NOAES256;
        } else {
            var1 = BUILTIN_ETYPES;
        }
        //
        //低版本: return !allowWeakCrypto ? Arrays.copyOfRange(var1, 0, var1.length - 2) : var1;
        // 高版本如下,区别在于一个减2,一个减4;所以使用低版本jdk不用配置 allow_weak_crypto = true 也可以连接成功,高版本不行
        return !allowWeakCrypto ? Arrays.copyOfRange(var1, 0, var1.length - 4) : var1;
    }

参考资料:

20240516-104207.jpg

https://web.mit.edu/kerberos/krb5-1.12/doc/admin/conf_files/krb5_conf.html

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342

推荐阅读更多精彩内容