Java 同步微信公众号用户

微信公众号(服务号)提供批量获取关注的微信用户信息接口,但每次最多获取 100个,如果一个公司有几个公众号,每个微信公众号又有几万甚至几十万用户,那么使用单线程获取数据显然不合理,需要使用多线程。

1、环境搭建
这里引入一个开源的微信API工具
github 地址:
https://github.com/binarywang/weixin-java-mp-demo-springboot
里面有很相关的Demo 和详细的讲解,我这里就不赘述

POM 引入

<!-- 微信API -->
<dependency>
    <groupId>com.github.binarywang</groupId>
    <artifactId>weixin-java-mp</artifactId>
    <version>3.3.0</version>
    <exclusions>
        <exclusion>
            <groupId>com.fasterxml.jackson.core</groupId>
            <artifactId>jackson-databind</artifactId>
        </exclusion>
        <exclusion>
            <groupId>org.apache.httpcomponents</groupId>
            <artifactId>httpclient</artifactId>
        </exclusion>
    </exclusions>
</dependency>

注意: 我这里是因为在其他jar包引入了 json 和 httpclient 所以排除掉了,一般情况下,是不需要做 exclusion 的

2、同步思路
2.1 假设我们有 3 个公众号的用户需要同步,那么我们开启三个线程,每个线程去同步一个公号
2.2 根据微信的接口 https://developers.weixin.qq.com/doc/offiaccount/User_Management/Getting_a_User_List.html
,每次可以获取10000个用户ID,但是每次请求最多获取100个用户,所以我们每获取10000个ID(一页),就再开启一个多线程去拉取用户,达到效率最大化

PS: 简单点讲就是多线程里面再开启一个多线程

上代码:

           // 创建一个线程池
           ExecutorService executorService = new ThreadPoolExecutor(10, 10,
                    0L, TimeUnit.MILLISECONDS,
                    new LinkedBlockingQueue<Runnable>(),
                    Executors.defaultThreadFactory());

            List<WxUser> wxUserList = new ArrayList<>();
            // 循环每个公众号
            for (String platformCode : platformChannelPromotionsMap.keySet()) { 
                WxUserComponent totalWxPlatformComponent = new WxUserComponent ();
                executorService.execute(totalWxPlatformComponent);
            }
            // 不再接收新任务
            executorService.shutdown();
            while (true) {
                // 任务都已经执行完
                if (executorService.isTerminated()) {
                    logger.info("统计 {} 公众号渠道累计人数 线程结束", targetDate);
                    break;
                }
              // 设置一个超时时间,防止意外事情发生
                if (System.currentTimeMillis() - created.getTime() > TIMEOUT) {
                    logger.error("统计 {} 公众号 线程超时", targetDate);
                    throw new RuntimeException("统计 " + targetDate + " 公众号 线程超时");
                }
                Thread.sleep(INTERVAL);
            }
/**
 * 每个微信公众号的用户
 * 实现了Runnable接口,可以使用多线程
 *
 * @author WangMin
 * @version V1.0.0
 * @since 2019/9/21
 */
public class WxUserComponent  implements  Runnable {

    private static final Logger logger = LoggerFactory.getLogger(WxUserComponent.class);

    /**
     * 超时时间
     */
    private static final Integer TIMEOUT = 2 * 60 * 60 * 1000;

    /**
     * 线程等待 sleep 间隔
     */
    private static final Integer INTERVAL = 5000;

    /**
     * 微信平台
     */
    private WxPlatform wxPlatform;


    @Override
    public void run() {
        WxMpService wxMpService = WxmpConfig.getWxMpService(wxPlatform);
        WxMpUserList wxMpUserList;
        try {
            wxMpUserList = wxMpService.getUserService().userList(null);
        } catch (WxErrorException e) {
            logger.error("统计平台公众号:{} 出错,错误: {}", wxPlatform.getCode(), e.getMessage());
            throw new RuntimeException("统计平台公众号:" + wxPlatform.getCode() + " 出错,错误:" + e.getMessage());
        }
        List<String> openIds = wxMpUserList.getOpenids();
        // total 关注该公众账号的总用户数
        // count 拉取的OPENID个数,最大值为10000
        logger.info("平台 {} ,用户列表  total: {}, count: {}", wxPlatform.getCode(), wxMpUserList.getTotal(), wxMpUserList.getCount());
        String nextOpenId = wxMpUserList.getNextOpenid();
        if (StringUtils.isBlank(nextOpenId)) {
            logger.error("统计平台公众号:{} nextOpenId 为空", wxPlatform.getCode());
            return;
        }
        ExecutorService executorService = new ThreadPoolExecutor(10, 10,
                0L, TimeUnit.MILLISECONDS,
                new LinkedBlockingQueue<Runnable>(),
                Executors.defaultThreadFactory());
        List<RequestWxUserInfo> threadList = new ArrayList<>();
        List<WxMpUser> platformWxMpUserList = Collections.synchronizedList(new ArrayList<WxMpUser>());
        while (StringUtils.isNotBlank(nextOpenId)) {
            RequestWxUserInfo requestWxUserInfo = new RequestWxUserInfo(openIds);
            threadList.add(requestWxUserInfo);
            executorService.execute(requestWxUserInfo);
            nextOpenId = wxMpUserList.getNextOpenid();
            try {
                wxMpUserList = wxMpService.getUserService().userList(nextOpenId);
                openIds = wxMpUserList.getOpenids();
            } catch (WxErrorException e) {
                logger.error("统计平台公众号:{} 时,获取 userList 出错,错误: {}", wxPlatform.getCode(), e.getMessage());
                throw new RuntimeException("统计平台公众号:" + wxPlatform.getCode() + " 时,获取 userList 出错,错误:" + e.getMessage());
            }
        }
        executorService.shutdown();
        while (true) {
            if (executorService.isTerminated()) {
                logger.info("统计平台公众号 {} 获取用户详情 线程结束", targetDate);
                break;
            }
            if (System.currentTimeMillis() - created.getTime() > TIMEOUT) {
                logger.error("统计平台公众号 {} 获取用户详情出错 线程超时", targetDate);
                throw new RuntimeException("统计平台公众号 " + targetDate + " 获取用户详情出错 线程超时");
            }
            try {
                Thread.sleep(INTERVAL);
            } catch (InterruptedException e) {
                // do nothing
            }
        }
        for (RequestWxUserInfo requestWxUserInfo : threadList) {
            platformWxMpUserList.addAll(requestWxUserInfo.getWxMpUserList());
        }
        this.totalWxMpUserChannel(platformWxMpUserList, channelPromotionCodesMap, channelPromotionSubscribeCountMap);
       
    }

    /**
     * 获取用户信息
     */
    class RequestWxUserInfo implements Runnable {

        private List<String> openIds;

        private List<WxMpUser> wxMpUserList = Collections.synchronizedList(new ArrayList<WxMpUser>());

        RequestWxUserInfo(List<String> openIds) {
            this.openIds = openIds;
        }

        @Override
        public void run() {

            // 每次最多请求100条数据
            final int batchGetSize = 100;
            int size = openIds.size();
            int page = size / batchGetSize;
            int remainder = size % batchGetSize;
            try {
                for (int i = 0; i < page; i++) {
                    List<String> subOpenIds = openIds.subList(i * batchGetSize, (i + 1) * batchGetSize);
                    List<WxMpUser> userInfoList = WxmpConfig.getWxMpService(wxPlatform).getUserService().userInfoList(subOpenIds);
                    wxMpUserList.addAll(userInfoList);
                }
                if (remainder > 0) {
                    int lastBeginIndex = page * batchGetSize;
                    List<String> subOpenIds = openIds.subList(lastBeginIndex, size);
                    logger.info("统计平台公众号:{},获取用户详情,remainder: {} 最后一页 {} 条数据", wxPlatform.getCode(), remainder, subOpenIds.size());
                    List<WxMpUser> userInfoList = WxmpConfig.getWxMpService(wxPlatform).getUserService().userInfoList(subOpenIds);
                    wxMpUserList.addAll(userInfoList);
                }
            } catch (Exception e) {
                logger.error("统计平台公众号:{} 时,获取用户详情出错,错误: {}", wxPlatform.getCode(), e.getMessage());
                throw new RuntimeException("统计平台公众号:" + wxPlatform.getCode() + " 时,获取用户详情出错,错误:" + e.getMessage());
            }
        }
    }

这是一些思路和部分代码,希望对各位有帮助,如果有什么问题,也请各位指出。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342

推荐阅读更多精彩内容