大型游戏创作平台《罗布乐思》运用机器学习 AI 开展语音聊天审核已有一年之久。鉴于该游戏拥有海量儿童用户，公司对审核工作极为重视。在近期举办的 GDC 2024 年游戏开发者大会期间，罗布乐思公司高级技术总监 Kiran Bhat 与语音安全负责人 Hannes Heikinheimo 透露，尽管 AI 审核成效显著，但在某些方面，人类审核员的表现更为出色。
Bhat 在演讲中指出：“实时监控语音并非易事，因为要实现语音监控，不仅要明确对方所言内容，还需捕捉其说话的语气与强度，以此判断话语是否存在恶意。”
“话语的上下文同样是判断其是否具有冒犯性的关键因素。所以，这是一个极具挑战性的问题。”
他进一步解释称，公司将违规内容归纳为 4 个主要类别来应对这些难题。他表示，85% 的违规内容都可归入这些分类，且“绝大多数”违规内容能够通过 50 个关键词捕捉到。他还提到：“若能涵盖这些类别的前 50 个关键词，审核工作就已做得相当不错。”
语音安全负责人 Heikinheimo 宣称 AI 监管取得了令人瞩目的成果：运行一年后，该系统已覆盖 31 个国家和地区，每段“活跃聊天时间”的违规举报数量减少了一半。使用 AI 审核的一大优势在于其没有情感且不会疲惫，因此在“明显违规的情况下，机器比人类更高效、更稳定”。然而，魔高一尺道高一丈，若要真正理解话语意图并作出精准判断，他认为“人类依然胜过机器”。
Heikinheimo 表示：“在那些接近判定边缘的情况中，人类的表现更佳。或者在极为罕见的情况下，机器学习系统缺乏足够的数据进行训练，此时人类的表现依旧更胜一筹。”
