小程序开发的内容安全审核

最近做一个带图片和文字发布的微信小程序,当时心里犯嘀咕,没有自我审查估摸着上不了。果不其然微信小程序提交代码审核的时候,审核不通过,提示如下:为避免您的小程序被滥用,请你完善内容审核机制,如调用小程序内容安全API,或使用其他技术、人工审核手段,过滤色情、违法等有害信息,保障发布内容的安全。
得,去到后台一看,审核员测试了一个词xxx给显示出来了,直接导致小程序不通过。

image

好在提示给了解决方案,因此这里做一下记录。

调用小程序内容安全API

还挺全,我主要用到了图片和文字审查,所以对security.imgSecChecksecurity.msgSecCheck的使用做记录。

image

开通云开发

在微信开发者工具打开你的小程序工程,点击“云开发”菜单进去,之前没开的按照提示填写云开发环境名称就好。

image

创建云函数

在你小程序工程的app.js同级目录下创建一个文件夹functions来存放云函数

image.png

并在project.config.json中配置"cloudfunctionRoot": "functions/",

{
  "description": "项目配置文件",
  "cloudfunctionRoot": "functions/",
  "packOptions": {
    "ignore": []
  }, ...
.......
image

编译一下,可以看到functions文件夹有变化后面加上了你之前创建的环境名。右键functions文件夹唤出菜单新建Node.js云函数

image

我这里创建了一个名称叫ContentCheck的云函数,调用security.imgSecChecksecurity.msgSecCheck需要声明权限,需要配置一个config.json文件,如果目录文件中没有config.json,需要自己建一个。

image.png

config.json的配置如下:

{
    "permissions": {
        "openapi": [
            "security.msgSecCheck",
            "security.imgSecCheck"
        ]
    }
}

ContentCheck云函数的目录结构如下:

├─checkContent
│      config.json       //云调用的权限配置
│      index.js         //云服务器node 入口文件
│      package.json     // NPM包依赖
│ ...

编辑ContentCheck云函数目录下的index.js文件

// 云函数入口文件
const cloud = require('wx-server-sdk')

cloud.init()

// 云函数入口函数
exports.main = async(event, context) => {
  try {
    let msgR = false;
    let imageR = false;
    //  检查文本内容是否违规
    if (event.msg) {
      msgR = await cloud.openapi.security.msgSecCheck({
        content: event.msg
      })
    }
    //  检查图像内容是否违规
    if (event.img) {
      imageR = await cloud.openapi.security.imgSecCheck({
        media: {
          header: {
            'Content-Type': 'application/octet-stream'
          },
          contentType: 'image/png',
          value: Buffer.from(event.img)
        }
      })
    }
    return {
      msgR,
      imageR
    };
  } catch (e) {
    return e
  }
}

编辑完云函数之后,右键ContentCheck唤起菜单选择 上传并部署:云端安装依赖

image

注意
使用微信小程序云函数开发本地需要实现安装好Node.js环境,并配置好环境变量,之前新电脑没装Node.js环境导致上传的云函数老是调用失败,解决办法是安装好Node.js就好了。
验证Node.js是否安装npm -vnode -version

image

调用云函数

app.js初始化云环境,参数env可以在云开发的设置中可以看到当前的环境ID

//app.js
App({
  onLaunch: function () {
    wx.cloud.init({
      env: "manjaro-7l50h",
      traceUser: true
    })
    ...
  },
})
image
  1. 检查文字是否违规

       //  调用ContentCheck云函数检查文字是否违规
       wx.cloud.callFunction({
         name: 'ContentCheck',
         data: {
           msg: _this.data.msg,
         },
         success(res) {
           console.log(res.result)
           if (res.result.msgR.errCode == 87014) {
             wx.showToast({
               title: '文字违规',
             })
           }
         }
       })
    
    // 文字违规打印的console.log(res.result)
    {
     msgR: {
         errCode: 87014,
         errMsg: "openapi.security.msgSecCheck:fail risky content hint: [cSp9ka06218622]"
     },
     imageR: false
    }
    // 文字正常打印的console.log(res.result)
    {
     msgR: {
         errCode: 0,
         errMsg: "openapi.security.msgSecCheck:ok"
     },
     imageR: false
    }
    
  2. 检查图片是否违规

    //  调用ContentCheck云函数检查图片是否违规
    wx.cloud.callFunction({
      name: 'ContentCheck',
      data: {
        img: _this.data.img
      },
      success(res) {
        console.log(res.result)
        if(res.result.imageR.errCode == 87014){
          wx.showToast({
            title: '图片违规',
          })
        }
      }
    })
    
    // 图片违规打印的console.log(res.result)
    {
     msgR: false,
     imageR: {
         errCode: 87014,
         errMsg: "openapi.security.imgSecCheck:fail risky content hint: [LGrV.a05623955]"
     }
    }
    // 图片正常打印的console.log(res.result)
    {
     msgR: false,
     imageR: {
         errCode: 0,
         errMsg: "openapi.security.imgSecCheck:ok"
     }
    }
    

完整例子 contentSecCheck

Reference

微信小程序官方文档
小程序评论回复和发帖功能实战

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,602评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,442评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,878评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,306评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,330评论 5 373
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,071评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,382评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,006评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,512评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,965评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,094评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,732评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,283评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,286评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,512评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,536评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,828评论 2 345

推荐阅读更多精彩内容