閱讀(2k) 書簽贊(0) 我要糾錯

QQ小程序圖像安全審核

2020-07-10 14:43 更新

圖像安全審核提供鑒黃、鑒政、鑒暴恐等多種類型的敏感內容審核服務，有效識別違禁圖片，規(guī)避違規(guī)風險。

功能特性

審核類型	描述
涉黃識別	檢測色情、性感內容，有效降低人工審核成本，適用于各類社交平臺、即時通訊應用，幫助平臺規(guī)避涉黃風險
涉暴恐識別	識別圖片中的恐怖分子、邪教組織、槍支彈藥、血腥暴力等恐怖主義內容，幫助平臺規(guī)避法律風險
涉政識別	通過人臉識別、圖片泛化等技術檢測圖片涉政內容，幫助平臺及時響應法律法規(guī)要求，規(guī)避輿論風險
廣告識別	通過廣告引導類圖片的識別，幫助平臺屏蔽廣告信息

注意：您不僅在云函數(shù)中可以使用該擴展能力，也可以在客戶端使用，文件讀寫權限策略與云存儲一致，減去您額外的權限管理工作。

前置要求

已經開通云開發(fā)。
云環(huán)境已安裝圖像安全審核擴展，點擊此處查看安裝情況

使用說明

安裝擴展 SDK 到項目

npm install --save @cloudbase/extension-ci@latest

2. 注冊擴展到Cloud對象

小程序中

const extCI = require('@cloudbase/extension-ci');


// 初始化環(huán)境
qq.cloud.init({
    env:"test-x1dzi"
})


// 注冊云開發(fā)擴展
qq.cloud.registerExtension(extCI);

云函數(shù)中

const cloud = require('qq-server-sdk');
const extCI = require('@cloudbase/extension-ci');
// 初始化環(huán)境
cloud.init({
  env: cloud.DYNAMIC_CURRENT_ENV
})
// 注冊云開發(fā)擴展
cloud.registerExtension(extCI);

3. 調用擴展 SDK

Cloud.invokeExtension(extensionName: String, options: Object): Promise

參數(shù)說明

參數(shù)	類型	是否必須	說明
extensionName	String	是	擴展名，傳CloudInfinite
options	Object	是	擴展參數(shù)，說明見下方

options參數(shù)

名稱	類型	是否必須	說明
action	String	是	操作類型，傳：ImageProcess
cloudPath	String	是	文件的絕對路徑，與cloud.uploadFile中一致
fileContent	ArrayBuffer或Buffer	否	文件內容, 有值，表示上傳時處理圖像；為空，則處理已經上傳的圖像
operations	Object	否	圖像處理參數(shù)

operations節(jié)點內容

名稱	類型	是否必須	說明
type	String	是	審核類型支持：porn（涉黃識別）、terrorist（涉暴恐識別）、politics（涉政識別）、ads（廣告識別），可選擇多種識別類型，如porn,ads

返回內容

參數(shù)名稱	類型	描述
RecognitionResult	Object	內容識別結果

RecognitionResult 節(jié)點內容：

審核信息（PornInfo、TerroristInfo、PoliticsInfo、AdsInfo）中包含如下內容：

參數(shù)名稱	類型	描述
Code	Int	錯誤碼，0為正確，其他數(shù)字對應相應錯誤。詳情請參見錯誤碼
HitFlag	Int	是否命中：0(未命中)，1(命中)，2(疑似)
Score	Int	審核分值：0 - 60分(正常)，60 - 90分(疑似敏感)，90 - 100分(確定敏感)
Label	String	識別出的圖片標簽

調用示例

小程序使用：

const extCI = require('@cloudbase/extension-ci');
qq.cloud.init({
    env:"test-x1dzi"
})
// 注冊云開發(fā)擴展
qq.cloud.registerExtension(extCI);

云函數(shù)中使用：

const cloud = require('qq-server-sdk');
const extCI = require('@cloudbase/extension-ci');
// 初始化環(huán)境
cloud.init({
  env: cloud.DYNAMIC_CURRENT_ENV
})


// 注冊云開發(fā)擴展
cloud.registerExtension(extCI);

您可以根據(jù)需要選擇在【客戶端】或【云函數(shù)】中使用，再按照如下代碼調用：

async function demo() {
  try {
    const res = await cloud.invokeExtension('CloudInfinite',{
      action:'DetectType',
      cloudPath: "ab.png", // 需要分析的圖像的絕對路徑，與cloud.uploadFile中一致
      operations: {
        type: "porn"
      }
    })
    console.log(JSON.stringify(res.data, null, 4));
  } catch (err) {
    console.log(JSON.stringify(err, null, 4));
  }
}

以上內容是否對您有幫助：