大数跨境

OpenAI,ChatGPT的制造商,承诺开发安全的AI系统

OpenAI,ChatGPT的制造商,承诺开发安全的AI系统 搜索引擎报
2023-04-06
0
导读:OpenAI承诺在AI系统中优先考虑安全性、准确性和隐私。了解其方法和正在进行的工作。

OpenAI近日发布博客文章,承诺致力于开发安全且广泛有益的人工智能(AI)。由GPT-4驱动的ChatGPT虽能提升生产力与创造力,但公司承认AI工具存在固有风险,需通过安全措施与负责任的使用加以应对。以下为OpenAI采取的具体风险缓解措施及外界相关反馈。

确保AI系统安全性

OpenAI在新系统发布前执行严格测试流程,包括寻求外部专家指导及基于人类反馈优化模型。以GPT-4为例,发布前经历了超六个月的测试,以确保安全性并契合用户需求。公司强调,强大的AI系统必须接受严苛的安全评估,并支持建立相应的监管机制。

从实际使用中持续迭代

实际应用场景是构建安全AI的关键环节。OpenAI通过向逐步扩大的用户群谨慎发布新模型,及时发现并解决未预见问题。借助API和网站渠道,公司能够监控滥用行为、实施管控措施,并制定平衡风险与应用的细致政策。

强化儿童保护与隐私合规

在未成年人保护方面,OpenAI实施了年龄验证机制,严禁利用其技术生成有害内容。在隐私保护层面,公司在利用数据优化模型的同时,会从训练集中移除个人信息,并对模型进行微调以拒绝获取敏感信息的请求。此外,OpenAI建立了响应机制,处理用户提出的删除个人数据诉求。

提升事实准确性

提高内容准确性是OpenAI的重点工作方向。数据显示,相较于上一代GPT-3.5,GPT-4生成准确内容的概率提升了40%。同时,公司致力于教育用户认知AI工具的局限性,防范潜在的不准确信息误导。

深化研究与多方协作

OpenAI持续投入资源研究有效的风险缓解措施和对齐技术。公司认为,解决安全问题无法仅靠自身完成,需要利益相关者之间开展广泛的辩论、实验与参与。OpenAI将继续促进合作与开放对话,共同构建安全的AI生态系统。

业界对存在性风险的批评

尽管OpenAI阐述了安全承诺,但其声明在社交媒体上引发争议。部分Twitter用户指出,OpenAI未能有效回应AI发展带来的“存在性风险”,指责其背离创始使命、过度追求商业化,且安全措施流于表面,更多是为了安抚舆论而非解决核心隐患。

这令人深感失望,空洞无物,只是公关上的粉饰。你甚至没有提及许多公民、技术人员、AI研究人员及AI行业领袖(包括你自己的CEO @sama)所关注的核心关切——来自AI的存在性风险。@OpenAI正在背叛其……

——Geoffrey Miller (@primalpoly) 2023年4月5日

另有观点认为,该公告掩盖了真正的问题,表述模糊,且忽视了与AI自我意识相关的重大伦理风险,并非解决安全问题的正确路径。

作为GPT-4的粉丝,我对你的文章感到失望。它掩盖了真正的问题,保持模糊,并忽视了与AI自我意识相关的关键伦理问题和风险。我欣赏这种创新,但这并非解决安全问题的正确方法。

—— FrankyLabs (@FrankyLabs) 2023年4月5日

上述批评凸显了业界对人工智能生存风险的持续担忧。尽管OpenAI概述了在安全、隐私及准确性方面的承诺,但要应对更深层次的挑战,仍需进一步展开实质性讨论。

来源:OpenAI

【声明】内容源于网络
0
0
搜索引擎报
搜索引擎时报
内容 2933
粉丝 0
搜索引擎报 搜索引擎时报
总阅读3.4k
粉丝0
内容2.9k