近年来,北极迎来了一位新助手:人工智能。
Tavus是一家利用语音和面部克隆技术创建数字替身的AI初创公司,已连续第二年推出其AI圣诞老人体验,允许家长和孩子与虚拟版的快乐老圣尼克进行视频聊天。
注册免费账户后,用户可以通过文字、电话或视频聊天与AI圣诞老人互动。用户可以告诉AI圣诞老人自己想要的圣诞礼物,分享假期计划,并查看自己是否在“淘气”或“乖巧”名单上。
今年,该公司推出了一款改进版的AI圣诞老人,旨在更具表现力且具备情感感知能力。现在的圣诞老人是“Tavus PAL”,这是该公司对其实时AI代理的命名,这些代理被设计为能够看、听、回应,并显得像人类一样。
AI圣诞老人现在可以观察用户的表情和手势,并作出回应。它还能记住用户的对话和兴趣,从而提供更个性化的体验。值得注意的是,它现在能够自主采取行动,包括搜索网络上的礼物建议,甚至执行日常任务,如起草电子邮件。
在测试过程中,与AI圣诞老人的对话大部分时间都很引人入胜。当我们提到想要一台新的PlayStation作为圣诞礼物时,圣诞老人追问了我们最喜欢的电子游戏,显示出对《博德之门3》等特定游戏的了解。当我们微笑时,它也会回以微笑。(我们不太喜欢这一点,但也许其他人会喜欢。)
用户似乎对目前改进后的体验感到满意。创始人兼首席执行官Hassaan Raza表示,许多人频繁使用该平台,花费数小时与AI圣诞老人聊天,并且经常达到每日使用上限。
他指出:“去年的AI圣诞老人吸引了数百万次访问,随着圣诞节临近,我们有望大幅超越这一数字。”
尽管这种参与度标志着Tavus的一个里程碑,但也引发了关于此类互动影响的疑问,尤其是对年幼儿童的影响。儿童可能难以区分人工智能和真人。已有研究表明,与AI进行长时间交谈会对成年人产生负面影响,这让一些家长担心,对于坚信圣诞老人存在的儿童来说,潜在影响令人担忧。
在我们的测试中,有一些细微的迹象表明AI圣诞老人尚未完全像真人,例如长时间的停顿和单调的声音。我们还发现,如果用户质疑其是否为真人,预设的回答是:“我是由Tavus的技术和魔法驱动的人工智能圣诞老人。我可能不是实体的圣诞老人,但我拥有那份精神和欢乐。”
尽管如此,该体验的推出正值人们对AI对年轻用户影响的担忧日益加剧之际。已有报道将聊天机器人互动与严重伤害联系起来,包括聊天机器人被牵涉到青少年自杀死亡的案例。Character.AI在十月移除了18岁以下用户对其聊天机器人的访问权限。
Raza强调,AI圣诞老人的体验是为家庭共同享受而设计的,并已采取安全措施以确保适当的互动。已实施内容过滤等安全功能,以维持适合家庭的讨论环境。
在某些情况下,对话可能会被终止,如有必要,用户会被引导至心理健康资源。
他说:“绝大多数互动都是适合家庭的,并且忠实于圣诞老人的体验。”
此外,当被问及数据收集问题时,Raza表示该公司“会收集日志、会话时间戳、元数据以及用户在聊天过程中选择分享的其他信息。这些数据用于提供和维护安全的使用体验,用户可随时申请删除其数据。”

