大数跨境

OpenAI与Common Sense Media合作,共同制定人工智能行为准则

OpenAI与Common Sense Media合作,共同制定人工智能行为准则 海外洞察
2024-01-29
2
导读:OpenAI 宣布与公益评级机构“常识媒体”(Common Sense Media)建立合作伙伴关系,共同制定面向儿童、青少年及其家长的 AI 使用指南。

OpenAI希望通过与致力于减少科技和媒体对儿童、前青少年及青少年伤害的组织合作,来赢得家长和政策制定者的信任。

一个典型的例子是,OpenAI今天宣布与非营利组织Common Sense Media建立合作伙伴关系。该组织负责审查和评估各种媒体和科技产品对儿童的适宜性,双方将共同制定面向家长、教育工作者和年轻人的AI指南和教育材料。

作为合作的一部分,OpenAI将与Common Sense Media合作,在GPT Store中策划“适合家庭使用”的GPT——即由OpenAI生成式AI模型驱动的聊天机器人应用。GPT Store是OpenAI的GPT市场,基于Common Sense的评级和评估标准。OpenAI首席执行官Sam Altman表示。

Altman在一篇预先准备好的声明中补充道:“AI为家庭和青少年带来了巨大的好处,我们与Common Sense的合作将进一步加强我们的安全工作,确保家庭和青少年能够自信地使用我们的工具。”

此次合作的推出是在OpenAI宣布将参与Common Sense于9月推出的新框架之后,该框架旨在通过评级和评论来评估AI产品的安全性、透明度、伦理使用和影响。根据Common Sense联合创始人兼首席执行官James Steyer的说法,Common Sense的框架旨在为AI驱动的应用程序制作一份“营养标签”,以揭示应用程序的使用背景,并根据一套“常识”原则突出潜在的机遇和危害领域。

智能手机屏幕上显示的OpenAI标志,背景是带有ChatGPT标志的电脑屏幕。图片来源:Didem Mente/Anadolu Agency / Getty Images

Steyer在新闻稿中提到,今天的父母对生成式AI工具的了解普遍较少——例如,OpenAI病毒式传播的AI驱动聊天机器人ChatGPT——不如年轻一代了解。去年年底,受Common Sense Media委托进行的Impact Research民意调查发现,12至18岁的学生中有58%使用过ChatGPT,而学龄儿童的父母中这一比例为30%。

Steyer在电子邮件声明中表示:“Common Sense和OpenAI将共同努力,确保AI对所有青少年和家庭产生积极影响。我们的指南和策划旨在教育家长和教师如何安全、负责任地使用[像ChatGPT这样的OpenAI工具],以便我们集体避免这项新兴技术可能带来的任何意外后果。”

OpenAI正面临监管机构的压力,要求其证明其GenAI驱动的应用程序(包括ChatGPT)对社会整体有益——而非有害。就在去年夏天,美国联邦贸易委员会就ChatGPT是否通过收集数据和发布关于个人的虚假陈述损害消费者利益而对OpenAI展开调查。欧洲数据监管机构也表达了担忧,关注OpenAI对个人信息的处理。

OpenAI的工具(像所有GenAI工具一样)倾向于自信地编造内容并搞错基本事实。而且它们存在偏见——这是用于训练它们的数据的反映。

无论孩子们和青少年是否意识到这些工具的局限性,他们越来越多地转向这些工具寻求帮助,不仅是为了学业,也是为了个人问题。根据民主与技术中心的一项民意调查,29%的孩子报告称曾使用ChatGPT来处理焦虑或心理健康问题,22%用于解决朋友间的问题,16%用于处理家庭冲突。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k