配置内置敏感词服务

即时通讯(IM)服务内置了开箱即用的敏感词机制。本文描述如何在开发者后台自助配置内置敏感词服务。目前支持的敏感词过滤语言包括:中文、英文、日语、德语、俄语、韩语、阿拉伯语。

:tipping_hand_man: 敏感词机制仅是一种基础保护机制,且仅限于文本内容(默认最多 50 个敏感词),不可替代专业内容审核服务。

操作说明

访问开发后台 敏感词设置页面,可进行以下配置:

  • 添加、删除敏感词
  • 控制每个敏感词的作用:屏蔽包含敏感词消息,或者替换敏感字符
  • 导出敏感词列表
  • 添加需要敏感词过滤的自定义消息类型(敏感词默认仅针对融云内置文本消息类型(消息标识为:RC:TxtMsg)有效。

  • 可自助配置
  • 收费配置(开发环境下免费)


点击敏感词设置页面的添加按钮,选择标签页添加敏感词。


通知发件人消息被屏蔽

如果消息因敏感词被屏蔽导致无法下发,默认情况下消息发送者不会收到通知。如果 App 希望消息发送者接收消息已被拦截的通知,可提交工单开通含敏感词消息屏蔽状态回调发送端 ,并在客户端设置监听(要求 Android/iOS SDK 版本 ≧ 5.1.4,Web ≧ 5.0.2)。

详见各客户端「敏感信息拦截回调」文档。

对服务端发送的消息启用敏感词机制

默认使用服务端 API 发送的消息不会进行敏感词过滤。如有需要,可以在开发者后台的免费基础功能界面 打开 Server API 发送消息过滤敏感词开关。

设置自定义消息过滤敏感词

敏感词设置页面点击设置自定义消息。提供自定义消息的消息类型的 ObjectName,及该消息类型下内容(Content)JSON 结构中对应的键值 Key。配置成功后,可对该 Key 所对应的 Value 值进行敏感词过滤处理。

消息标识说明:

  1. 您所添加的所有消息标识(ObjectName),其键(Key)对应的内容,都将进行敏感词过滤。如:融云内置的消息类型“文本消息”的消息标识为:RC:TxtMsg,其消息体中的键 “content” 所对应的值(Value) ,将会自动过滤掉所添加的敏感词。
  2. 自定义消息请按 SDK 的标准进行构造,最终发出的结构保证是个合法的 JSON.
  3. 请不要以 “RC:” 开头,以避免与融云系统内置消息的 ObjectName 重名。
  4. 在生产环境配置之前,请最好在开发环境配置完成且测试通过,以避免在生产环境下敏感词无法过滤。如测试失败,可提交工单

调整敏感词数上限

调整敏感词数上限为付费服务。默认可配置 50 个敏感词。如需更多,可以在开发者后台 IM 服务管理 页面的扩展服务标签下自行调整敏感词上限数。仅 IM 旗舰版IM 尊享版可调整。具体费用见计费说明。

参考资源

更多支持

如有疑问,欢迎提交工单