小程序因內容違規而離線？想要審查和識別違規但不知道如何開始？

上周，我們上線內容安全接口并使用這個“神器”來幫助每個人解決問題。

今天，讓我們仔細看看這個“神器”，以幫助您更好地解決上述問題。

這個幫手幫你做內容審核

用戶通過小程序發布的內容大而且多變，并且不可能逐個檢查。

小程序內容安全接口輔助開發者準確快速驗證小程序的文本、圖片內容是否包含淫穢色情，非法犯罪，政治參與等，防止不良信息混入，維持小程序內容健康。

溫馨提醒，即使開發人員擁有內容安全的界面，這也是一個很好的“幫手”，并且不能掉以輕心。

三大能力，快速發現并處理違規內容

可以成為“好幫手”，當然還有“超級能力”。 小程序內容安全界面提供三種功能，從圖像到文本，以準確識別違規內容。

圖片智能鑒黃

無論是用戶通過照片上傳的內容，自定義頭像，還是文章評論的圖片圖片智能鑒黃接口都能夠進行主動識別及獲取色情量化程度信息，都能實現準確快速的色情傾向判斷。

智能人臉識別

“眼盲”面部識別能力可以提取圖中的面部信息并執行相似度判斷，包括重要政治人物、公眾人物和其他圖像人臉識別，以幫助開發人員避免違規和侵權風險。

惡意文本檢測

該文本包含許多潛在的非法元素。內容安全界面提供更高級智能的惡意文本檢測能力，可以準確識別文本內容中的非法文本信息，并協助檢測違規和惡意內容。

這些場景已經能實際使用了

目前，內容安全界面已經能夠用于小程序處的文本，圖像等的內容驗證。

用戶的個人資料、媒體類用戶發表的文章及評論、游戲類用戶編輯上傳的素材等，開發人員可以使用內容安全界面進行文本檢測。

此外，內容安全接口可以檢測用戶拍照上傳、電商類商品上架圖片、用戶頭像、媒體類用戶文章配圖、社交類用戶上傳的圖片。

更多你關注的Q&A

在了解了小程序內容安全界面的基本信息后，您可能會有一些問題：這個界面適合誰？有什么影響？問答了解——

Q1： 開放內容安全接口能為開發者帶來什么好處？

A：我們注意到，近年來，由于產品中存在非法內容，它已經受到處罰，甚至關閉了貨架，開發者的內容審核工作刻不容緩。因此，我們推出了內容安全界面，希望能夠幫助開發人員及時發現和處理圖像和文本內容中的違規行為，從而使開發人員能夠專注于高質量的小程序開發。

Q2： 哪些小程序可以使用內容安全接口，有使用要求嗎？

A：目前，內容安全接口面向所有的小程序開發者，免費提供一定額度的接口調用量主要為小程序內容審查工作提供幫助，平臺不保留小程序開發人員提交的測試數據。如果呼叫量要求超過上限，則開發者可以通過業務邏輯優化，自行開發的內容審查手段和其他第三方內容審查界面進行內容審查。

Q3： 有了內容安全接口，開發者是不是就能省略內容審核工作？

A：目前，內容安全界面僅提供內容審核的基礎能力來幫助開發人員發現有害內容，但對于內容檢測結果以及其他非法內容（如暴力，恐怖，血腥），開發人員仍需要進行良好的管理職責。自行開展審核并對有害內容進行刪除等處理，并且不能忽略內容審核工作。

同時，開發人員可以通過《文本內容安全接口》和《圖片內容安全接口》了解有關小程序內容安全接口的更多信息，以創建更環保，更健康的小程序生態系統。