引言：隨著數(shù)字經濟蓬勃發(fā)展，以及疫情加速的線上娛樂迅猛攀升，各種數(shù)字產品形態(tài)的風潮迭起，興趣社交、娛樂直播、電商帶貨、互動游戲等行業(yè)孕育無數(shù)機會的同時，也暗藏潛伏的危險，是“風口”，也是“風險口”。受利益的誘惑與驅使，涉黃、涉政、暴恐、低俗等違法違禁信息，以各種形式泛濫于網(wǎng)絡，讓各大平臺應用防不勝防，不斷被迫充當著間接“作惡工具”，隨之而來的是約談、整頓、下架甚至關停。環(huán)信作為國內領先的即時通訊服務平臺，如何保障企業(yè)的消息內容安全、合規(guī)，如何幫助企業(yè)規(guī)避內容風險，在安全的環(huán)境下專注自身業(yè)務發(fā)展也是環(huán)信一直以來的使命!

Why 互聯(lián)網(wǎng)不是法外之地

強大的網(wǎng)絡安全產業(yè)實力是保障我國網(wǎng)絡空間安全的根本和基石。近年來，多次就網(wǎng)絡安全產業(yè)作出重要指示：“互聯(lián)網(wǎng)不是法外之地”!隨之而來國家開展多次“凈網(wǎng)”集中行動，專項整治網(wǎng)上有害信息和不良內容，工信部和網(wǎng)信辦同時重拳出擊。據(jù)不完全統(tǒng)計，2021年6月至8月間，執(zhí)法監(jiān)管部門共查辦涉網(wǎng)絡行政和刑事案件822起，處置低俗有害信息40余萬條，取締關閉網(wǎng)站4800余個，處置違法違規(guī)賬號800余萬個。

工信部：組織對多種類型應用軟件及平臺開展專項檢查，已集中通報6批侵害用戶權益行為的APP，下架處理逾期未整改的APP超250款;進一步啟動開展互聯(lián)網(wǎng)行業(yè)專項整治行動，聚焦擾亂市場秩序、侵害用戶權益、威脅數(shù)據(jù)安全、違反資源和資質管理規(guī)定等四方面8類問題，推動行業(yè)規(guī)范健康有序發(fā)展。

網(wǎng)信辦：加強網(wǎng)絡生態(tài)治理，深入開展整治網(wǎng)上歷史虛無主義、整治未成年人網(wǎng)絡環(huán)境、整治網(wǎng)上文娛及熱點排行亂象等“清朗”系列專項行動，進一步出臺十項舉措整治“飯圈”亂象，累計清理有害信息15萬余條，處置違規(guī)賬號4000余個，關閉問題群組1300余個。

What 產品、場景和解決方案

在內容監(jiān)管日趨嚴重、行政監(jiān)管愈發(fā)嚴格的大環(huán)境之下，令各大平臺應用憂心忡忡的不再只有“流量”，還有“合規(guī)”和“內容安全”。平臺必須承擔起主體責任，“大步快跑”的同時，加強正向引導嚴防內容風險。過去，在內容審核方面，互聯(lián)網(wǎng)“老大哥”們往往通過增加審核人員規(guī)模來解決問題，動輒上萬人的內容審核團隊，讓其他一眾中小廠商望而卻步，而隨著互聯(lián)網(wǎng)內容愈發(fā)繁雜且海量，信息傳播形態(tài)更加多樣化，音視頻等新的媒介形式興起，傳統(tǒng)的人工審核已經無法再從容應對內容安全危機。

正是在這樣的行業(yè)背景之下，環(huán)信推出內容審核服務，聚焦在“內容安全”領域，結合人工智能技術打造全棧式智能內容識別產品，致力于幫助社交、直播、電商、游戲等行業(yè)的開發(fā)者，精準識別即時通訊場景中的文本、圖片、語音等各類違規(guī)內容，為開發(fā)者提供高效、準確、全面的內容審核過濾服務。讓無論是“大廠”還是“小廠”，都有機會在集成通信云平臺能力的同時，享受到內容識別技術所帶來的“安全感”，從而沒有后顧之憂地在市場上開疆拓土。

內容安全(Content security)是網(wǎng)絡信息安全的一個重要分支，其目的為識別、阻斷不良信息傳播，例如濫發(fā)電子消息(Spamming)、色情內容、犯罪內容、恐怖主義內容、政治敏感內容等。涉及技術包括自然語言處理、計算機視覺等，涉及內容包括文字、圖片、音頻、視頻等。環(huán)信內容審核產品1.0以IM即時通訊場景作為切入點，主打消息場景下各類信息的內容審核安全，打造IM即時通訊場景下內容安全的一站式解決方案。環(huán)信內容審核產品無縫對接即時通訊IM 四大類消息類型，零集成開發(fā)成本，開通服務即可為消息傳播提供“安保措施”;文本類型和圖片類型更是采取實時審核，有效降低審核延遲，提供即時的IM聊天體驗。

環(huán)信內容審核服務詳情：

1、支持4大內容類型、5大必備基礎審核內容場景：

具備文本、圖片、音頻、視頻全類型的審核能力，基于業(yè)界先進的深度學習網(wǎng)絡技術及線上海量真實樣本，有效識別通訊場景中涉政、色情、違禁、暴恐、廣告導流等違規(guī)內容，并支持結合客戶自身場景進行精準防控。

2、有效解決各類型內容識別中的審核難點：

文本審核支持變體識別，使違規(guī)無處遁形，解決業(yè)內只能事后配置變體規(guī)則的被動情況

音頻審核支持轉譯文本識別和聲紋特征識別，實時監(jiān)測音頻輿情趨勢，動態(tài)追蹤違規(guī)態(tài)勢

圖片審核支持全方位識別數(shù)百種涉政暴恐圖片、數(shù)十種色情圖片、各式各樣的變體廣告圖片等違規(guī)內容，極大降低平臺監(jiān)管風險。

視頻審核支持對視頻內容中畫面、聲音、文字進行全方位綜合檢測，提高平臺內容治理質量和效率，提升用戶體驗。

3、支持個性化設置審核策略，提供功能強大的審核管理后臺：

審核規(guī)則靈活設置：支持按單聊、群聊、聊天室維度細分消息，滿足業(yè)務不同消息場景下設置不同審核規(guī)則的需求;

審核模型靈活調整：支持定制調整模型審核標準，結合客戶自身場景進行精準防控，輕松適配不同行業(yè)客戶的審核標準;

自定義消息處置策略：針對消息審核結果，支持客戶設置消息下發(fā)或攔截的策略，保障消息處置結果滿足業(yè)務需求。

4、提供多行業(yè)適用的審核解決方案：

社交平臺

精準識別單聊、群聊中文本消息、圖片消息、音頻消息、視頻消息中的涉政、色情、辱罵、暴恐、違禁、廣告導流詐騙等風險內容，凈化應用內聊天環(huán)境，有效降低用戶流失風險

直播聊天室

精準識別直播聊天室、彈幕中的涉政、涉黃、暴恐、廣告導流等風險內容，降低違規(guī)內容傳播風險，保障大型直播活動安全推廣

游戲互動

精準識別游戲公屏聊天中涉政、涉黃、暴恐、廣告導流等風險內容，精準識別微信號、手機號等垃圾廣告內容，降低平臺用戶流失風險

How good 環(huán)信的優(yōu)勢與價值

1、后臺一鍵開通，0集成開發(fā)成本，更低延遲的消息審核體驗：

環(huán)信內容審核直接無縫對接IM消息發(fā)送環(huán)節(jié)，同一數(shù)據(jù)中心調用審核，實現(xiàn)更低延遲的審核服務體驗，高效幫助客戶解決傳統(tǒng)方案中消息審核環(huán)節(jié)的痛點。

相對于客戶自行回調消息至應用服務器后再自行審核處理方案，一是能有效節(jié)省網(wǎng)絡傳輸環(huán)節(jié)并避免網(wǎng)絡波動造成延遲大的風險，從全鏈路上大大降低加入審核環(huán)節(jié)對消息發(fā)生產生的延遲影響;二是幫助客戶節(jié)省大量的服務器處理成本、以及開發(fā)和維護的人力成本，環(huán)信內容審核無需客戶集成、0開發(fā)成本，開通服務即可使用;

相對于客戶應用客戶端先自行審核再發(fā)送消息方案，一是客戶端網(wǎng)絡環(huán)境無法保證從而延遲風險更大，環(huán)信審核服務采取同一數(shù)據(jù)中心調用方式，有效避免審核環(huán)節(jié)的網(wǎng)絡延遲風險;二是客戶端調用存在被攻擊的安全風險，一旦被攻擊審核環(huán)節(jié)則形同虛設，環(huán)信內容審核采用服務器送審安全有保障;三是客戶端送審開發(fā)邏輯復雜，會產生開發(fā)和維護成本，環(huán)信內容審核無需客戶集成、0開發(fā)成本，開通服務即可使用，省時省力省心。

2、智能AI技術為內容安全保駕護航，極大降低監(jiān)管風險：

復雜模型體系，違規(guī)識別高準確：基于先進的人工智能技術，構建復雜模型體系，避免單一模型的誤殺和漏殺，違規(guī)識別高準確;

違規(guī)態(tài)勢實時追蹤，實現(xiàn)產品快速迭代升級：實時監(jiān)測音頻輿情趨勢，動態(tài)追蹤違規(guī)態(tài)勢，產品防御升級;

多種違規(guī)內容全面識別，極大降低監(jiān)管風險：深入不同行業(yè)審核場景，提供高效、精細、全面的個性化內容審核方案。

3、高質量服務，支持客戶結合自身場景進行精準防控：

首次開通服務提供7天免費試用期，幫助客戶充分測試并了解內容審核產品效果;更有專業(yè)技術服務人員7*24小時支持客戶根據(jù)業(yè)務個性化需求調整審核模型的效果，保障消息審核結果100%滿足企業(yè)業(yè)務需求。

免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據(jù)。

關鍵詞：