随着技术日益发展，安全漏洞随之出现，儿童安全问题首当其冲。全球范围内令人痛心的儿童安全事件已成为科技公司的关注焦点。在生成式人工智能亟需在线儿童安全创新解决方案之际，Robust Open Online Safety Tools (ROOST)于巴黎人工智能行动峰会上正式亮相。
创始团队
ROOST由哥伦比亚大学国际与公共事务学院全球政策研究所开发，其创始合作伙伴包括前谷歌CEO Eric Schmidt、Discord、OpenAI、Google、Roblox、John S. & James L. Knight Foundation、AI Collaborative、Patrick J. McGovern Foundation及Project Liberty Institute。该项目获得了来自人工智能、慈善、学术界、开源社区、儿童安全及打击暴力极端主义等领域的广泛支持。
项目宗旨
由Roblox、Discord、OpenAI和Google发起的ROOST，旨在提供易于获取且免费的开源AI工具，用于检测、调查和报告儿童性虐待材料（CSAM），并致力于整合现有工具以提升可访问性与包容性。
该项目在前四年运营中筹集了超2700万美元资金，并与顶尖AI开发者及儿童安全专家合作。Meta、Google和Microsoft等公司也参与其中。ROOST通过提供基础设施和资源鼓励社区协作，共建更安全的互联网环境。
ROOST创始合伙人、前谷歌CEO Eric Schmidt表示，该举措源于AI发展对网络环境的改变，旨在满足加速在线儿童安全创新的迫切需求。
Schmidt指出：
“ROOST以专注于儿童保护的平台起步，其合作式、开源的方法将鼓励创新，并以创建更安全的互联网为目标，使基础设施更加透明、可访问和包容。”
未来计划
Bloomberg Businessweek调查显示，自2018年以来，美国已有数十人因在Roblox上结识并虐待或绑架儿童被执法部门逮捕。2024年，土耳其在封锁Roblox后，许多在线平台也面临类似问题；去年我国也对Discord实施了访问限制。
Roblox工程、信任与安全副总裁Naren Koneru在接受Fast Company采访时指出，ROOST可为AI审核系统提供托管服务，企业可通过API调用进行集成。
Discord首席法务官Clint Smith表示：“我们相信安全是共同利益所在。我们不仅致力于让Discord更安全，还决心让整个互联网，尤其是为年轻人创造更美好、更安全的网络环境。”
尽管ROOST无法彻底消除所有问题，但它有助于类似Roblox的机构或公司应对相关挑战。