使用内置敏感词、IM 内容审核、消息回调服务时,如何获取消息原始内容?

描述

即时通讯支持对 IM 内容进行审核,提供内置敏感词机制专业 IM 审核服务,以及通过消息回调服务自行对接审核服务的能力。

  • 内置敏感词机制:即时通讯(IM)服务内置开箱即用的敏感词机制,可通过敏感词屏蔽消息,或者设置替换词,由服务端自动完成替换后再下发。
  • 专业 IM 审核服务:融云内容审核服务产品中提供 IM 审核,支持审核文本、图片、语音片段、小视频,精准识别敏感信息。
  • 消息回调服务:消息回调可将消息先行发送至 App 指定的地址,由 App 返回结果决定是否继续发送至收件人。App 可以使用消息回调服务自行实现审核,或自行对接第三方审核服务。

在进行内容审核时,App 可能还希望获取原始消息内容。本文将描述在使用一种或多种审核能力时,可否以及如何获取原始消息内容。

情况一:仅使用内置敏感词服务

可以通过全量消息路由获取原始消息内容。

  • 默认设置了屏蔽敏感词的消息不走消息路由,设置了替换敏感词的消息会走消息路由(路由的只是替换后的消息)。
    开启 含敏感词消息路由功能 后,屏蔽、替换敏感词的消息都会走消息路由(路由的则是原始消息)。
    可[提交工单]申请开通含敏感词消息路由功能

情况二:使用内置敏感词服务,且开通了 IM 审核服务或消息回调服务

如果您选择由融云的内容审核服务产品提供的 IM 审核服务,或者通过消息回调服务自行进行内容审核,仅可获取包含屏蔽敏感词的消息原始内容,无法获取包含替换敏感词的消息原始内容。具体说明如下:

  • 消息中包含屏蔽敏感词时,默认不会被同步到应用服务器。如需要将含有屏蔽敏感词的消息也路由到应用服务器,可提交工单申请开通含敏感词消息路由功能。开通之后,您可以通过全量消息路由接收消息原始内容。

    已被屏蔽的消息不会向 IM 内容审核服务送审,不会再触发消息回调

  • 如果未设置替换敏感词,融云会将消息原始内容向 IM 内容审核服务送审或触发消息回调。您可以以下方式获取消息原始内容:
    • 如果您使用 IM 内容审核服务,全量消息路由可返回的送审的消息原始内容。
    • 如果您使用消息回调,可直接从回调数据中获取消息原始内容。

      注意,如果您在消息回调服务中进行了内容替换,全量消息路由返回的消息内容为替换后的消息内容,并非消息原始内容。

  • 如果设置了替换敏感词融云会将消息内容中的敏感词替换成设置的内容,再向 IM 内容审核服务送审或再触发消息回调这种情况下您无法获取消息原始内容。原因如下:
    • 审核结果回调返回的“消息原始内容”实际已经过敏感词替换,并非消息原始内容。
    • 消息回调返回的“消息原始内容”实际已经过敏感词替换,并非消息原始内容。
    • 全量消息路由返回的消息内容已经过敏感词替换,并非消息原始内容。

:tipping_hand_man: 如果您通过消息回调服务自行进行内容审核,建议自行进行内容替换,不要在融云开发者后台敏感词设置中配置替换敏感词

更多支持

如有疑问,欢迎提交工单