OpenAI、谷歌、Roblox 等联手，成立新组织以保障 AI 时代儿童安全

OpenAI、谷歌、Roblox等科技巨头联手，成立新组织保障AI时代儿童安全

2月11日，一则来自Engadget的报道引起了广泛关注：Roblox、Discord、OpenAI和谷歌这几家科技领域的重量级玩家，联手成立了一个名为ROOST（强大开放在线安全工具）的非营利组织。这个组织的核心目标很明确——为即将全面到来的AI时代，构建一套既可扩展又能互联互通的安全基础设施。

那么，ROOST具体打算怎么做呢？其计划是，向各类公共和私人机构免费提供开源的安全工具。这样一来，不同平台就能更便捷地加强自身的安全防护能力。值得注意的是，该组织的初期工作将重点聚焦在儿童安全这一紧迫议题上。在成立声明中，ROOST特别指出了其计划：提供用于“检测、审核和报告儿童性虐待材料（CSAM）”的相关工具。背后的合作公司们不仅是资金的提供者，更是技术力量的贡献者，共同为这些工具的建设出力。

这个倡议背后的逻辑其实很清晰。生成式AI的迅猛发展正在以前所未有的速度重塑网络空间，这使得对“可靠且易于访问的安全基础设施”的需求变得比以往任何时候都更为迫切。ROOST的初衷，正是为了避免让中小型公司或组织陷入从零开始开发安全工具的困境，转而免费为其提供一变钱成的解决方案。这无疑能降低整个行业的安全门槛。

话说回来，儿童在线安全问题的热度近年来持续攀升。自《儿童与青少年在线隐私保护法案》和《儿童在线安全法案》进入国会审议程序以来，相关讨论就未曾停歇，尽管这两项法案最终都未能在众议院获得通过。在这一背景下，包括谷歌和OpenAI在内的科技公司均已公开承诺，将彻底禁止利用AI技术生成儿童性虐待材料。可以说，行业正在形成一种共识和自律。

在所有参与方中，Roblox对儿童安全问题的感受可能最为直接和紧迫。2020年的数据显示，美国九至十二岁的儿童中，有高达三分之二都在使用Roblox平台。然而，巨大的用户基数也意味着巨大的责任与挑战。该平台在儿童安全领域一直面临着考验。2024年，《彭博商业周刊》就曾报道公司遭遇了“恋童癖问题”的困扰，这一事件直接促使平台对儿童私信功能实施了更严格的限制，并出台了新的保护政策。

当然，必须清醒认识到，设立ROOST这样一个组织并不能一劳永逸地解决所有在线安全难题。但它迈出了关键的一步：为像Roblox这样面临相似挑战的公司和组织，提供了一套更简便、更统一的应对方案。在AI技术浪潮席卷一切的今天，这种跨公司的协同与合作，或许才是构建下一代安全防线的真正起点。