使用内置敏感词、IM 内容审核、消息回调服务时，如何获取消息原始内容？

zhujun · 2023 年6 月 15 日 03:26

描述

即时通讯支持对 IM 内容进行审核，提供内置敏感词机制、专业 IM 审核服务，以及通过消息回调服务自行对接审核服务的能力。

内置敏感词机制：即时通讯（IM）服务内置开箱即用的敏感词机制，可通过敏感词屏蔽消息，或者设置替换词，由服务端自动完成替换后再下发。
专业 IM 审核服务：融云内容审核服务产品中提供 IM 审核，支持审核文本、图片、语音片段、小视频，精准识别敏感信息。
消息回调服务：消息回调可将消息先行发送至 App 指定的地址，由 App 返回结果决定是否继续发送至收件人。App 可以使用消息回调服务自行实现审核，或自行对接第三方审核服务。

在进行内容审核时，App 可能还希望获取原始消息内容。本文将描述在使用一种或多种审核能力时，可否以及如何获取原始消息内容。

可以通过全量消息路由获取原始消息内容。

默认设置了屏蔽敏感词的消息不走消息路由，设置了替换敏感词的消息会走消息路由(路由的只是替换后的消息)。
开启 含敏感词消息路由功能 后，屏蔽、替换敏感词的消息都会走消息路由(路由的则是原始消息)。
可[提交工单]申请开通含敏感词消息路由功能。

如果您选择由融云的内容审核服务产品提供的 IM 审核服务，或者通过消息回调服务自行进行内容审核，仅可获取包含屏蔽敏感词的消息原始内容，无法获取包含替换敏感词的消息原始内容。具体说明如下：

消息中包含屏蔽敏感词时，默认不会被同步到应用服务器。如需要将含有屏蔽敏感词的消息也路由到应用服务器，可提交工单申请开通含敏感词消息路由功能。开通之后，您可以通过全量消息路由接收消息原始内容。

已被屏蔽的消息不会向 IM 内容审核服务送审，不会再触发消息回调。
如果未设置替换敏感词，融云会将消息原始内容向 IM 内容审核服务送审或触发消息回调。您可以以下方式获取消息原始内容：
- 如果您使用 IM 内容审核服务，全量消息路由可返回的送审的消息原始内容。
- 如果您使用消息回调，可直接从回调数据中获取消息原始内容。
  
  注意，如果您在消息回调服务中进行了内容替换，全量消息路由返回的消息内容为替换后的消息内容，并非消息原始内容。
如果设置了替换敏感词，融云会将消息内容中的敏感词替换成设置的内容，再向 IM 内容审核服务送审或再触发消息回调。这种情况下您无法获取消息原始内容。原因如下：
- 审核结果回调返回的“消息原始内容”实际已经过敏感词替换，并非消息原始内容。
- 消息回调返回的“消息原始内容”实际已经过敏感词替换，并非消息原始内容。
- 全量消息路由返回的消息内容已经过敏感词替换，并非消息原始内容。

如果您通过消息回调服务自行进行内容审核，建议自行进行内容替换，不要在融云开发者后台敏感词设置中配置替换敏感词。