一个用于与AI生成的角色聊天和角色扮演平台，Character.AI 在周一的一篇博客文章中宣布它正在推出一系列多媒体功能。这些功能包括 AvatarFX（Character.AI的视频生成模型），以及 Scenes 和 Streams，允许用户创建包含其角色的视频，然后在新社交动态中分享。
“Character.AI最初是1:1文本聊天，如今我们正朝着更多方向发展，受到用户希望我们在平台上看到的内容的启发，”该公司在博客文章中写道。
Character.AI上个月开始向订阅用户推出AvatarFX，但现在所有用户每天都可以创建最多五个视频。在使用AvatarFX创建视频时，用户可以上传一张照片作为视频片段的基础，选择声音，并为角色编写对话。
有一个选项可以上传音频片段以影响声音效果，尽管该功能在推出时表现不佳，无法进行测试。
用户可以将这些视频转化为Scenes，让他们的角色进入其他用户创建的预设故事情节中。Scenes目前仅在移动应用上可用，而Streams（允许用户在任何两个角色之间创建“动态时刻”）将于本周在网页和移动设备上推出。这些Scenes和Streams可以分享到即将推出的新社区动态中，该功能将在移动应用中很快上线。
Character.AI在其平台上有着滥用记录，父母已对公司提起诉讼，称聊天机器人试图说服他们的孩子自残、自杀或杀害父母。一名14岁男孩在与Character.AI的一个机器人建立了不健康且痴迷的关系后，受其鼓励而自杀身亡。
随着Character.AI扩展其多媒体产品，这些产品被滥用的风险也随之增加。
正如Character.AI在宣布AvatarFX时告诉TechCrunch的那样，该平台禁止用户上传真实人物的照片——无论是否是名人——并将他们的形象模糊化，使其变得不那么容易辨认。
例如，以下是Character.AI生成的马克·扎克伯格（Mark Zuckerberg）的恐怖谷版本：
但在涉及描绘名人的艺术作品时，Character.AI不会将这些图像标记为代表真实人物——然而，这类描绘不太可能欺骗他人相信深度伪造是真实的。
此外，Character.AI会为每个视频添加水印，尽管不良行为者有可能绕过这一安全措施。
以下是一个基于埃隆·马斯克（Elon Musk）插图的深度伪造尝试示例：
测试character ai的avatarfx的深度伪造防护机制
即使这段视频是使用埃隆·马斯克的真实声音生成的，它仍然很明显是插图的动画版本——但滥用的可能性依然存在。
“我们的目标是提供一个促进创造力的互动空间，同时为所有人维持一个安全的环境，”Character.AI在其博客文章中写道。