罗布乐思AI聊天审核效果佳，却难替真人

锚点111

大型游戏创作平台《罗布乐思》运用机器学习AI进行语音聊天审核已达一年之久。鉴于该游戏拥有大量儿童用户，公司对审核工作极为重视。在近期举办的2024年游戏开发者大会（GDC）期间，罗布乐思公司高级技术总监Kiran Bhat以及语音安全负责人Hannes Heikinheimo透露，尽管AI审核成效显著，但有时真正的人类在这项工作上能做得更出色。

Bhat在演讲中提到：“实时监控语音颇具难度，因为要实现监控，不仅需知晓对方所言内容，还得捕捉其说话的语气与强度，以此判断某段话语是否真具恶意。”

“上下文同样是判断某段话是否具有冒犯性的要素之一。所以这是个相当棘手的问题。”

他进一步阐释，公司通过将违规内容归为4个主要类别来应对这些难题，并指出85%的违规内容都在这些分类之中，且“绝大多数”可通过50个关键词捕获。他表示：“若已涵盖这些类别的前50个关键词，那便已做得相当不错。”

语音安全负责人Heikinheimo宣称AI监管成果斐然：运行一年后，该系统已覆盖31个国家和地区，每段“活跃聊天时间”的违规举报数量减少了一半。使用AI的一个优势在于它们没有情感且不会疲惫，所以在“非常明显的违规情形下，机器比人类更高效、更稳定”。然而，正所谓道高一尺魔高一丈，在真正理解意图和进行判断方面，他认为“人类依旧胜过机器”。

Heikinheimo说道：“在那些可能接近判定边缘的情况中，人类的表现依然更优。或者在极为罕见的情形下，我们没有足够的数据供机器学习系统训练。所以在这些状况下，人类的表现仍然更佳。”