“谨慎行事并进行红队测试”虽不如“快速行动，打破常规”朗朗上口，但三位人工智能安全倡导者在TechCrunch Disrupt 2024上向初创公司创始人明确警示：盲目求快可能引发长期伦理危机。
AI Now研究所联合执行主任Sarah Myers West指出：当前大量资源涌入AI领域，业界急于将产品推向市场，却忽视了核心问题——我们真正想要生活在什么样的世界？现有技术是在服务这个世界，还是在积极伤害它？
这一对话背景是日益紧迫的AI安全问题。今年10月，一名自杀儿童的家属因聊天机器人Character.AI据称在该儿童死亡事件中扮演的角色而对其提起诉讼。
Myers West表示：“这展示了基于AI的技术迅速部署带来的深远影响，包括长期存在且难以解决的在线滥用及内容审核难题。”此外，从虚假信息到版权侵权，AI风险依然高企。
艺术家导向型社交平台Cara创始人Jingna Zhang强调：“我们正在构建具有巨大力量、能深刻影响人们生活的技术。对于像Character.AI这样与人在情感上深度互动的产品，在构建过程中设置护栏是合理的。”
Cara的走红源于Meta宣布可使用用户公开帖子训练AI的政策。对艺术家而言，这意味着为建立粉丝群和争取客户而发布的作品，可能被用于塑造未来替代他们的AI模型。Zhang认为：“版权保护着我们的生计。数字媒体使用图像尚需许可，生成式AI若想使用作品，也应获得授权。”
估值超十亿美元的AI语音克隆公司ElevenLabs同样给艺术家带来冲击。其AI安全负责人Aleksandra Pedraszewska的职责，便是确保先进技术不被用于非自愿深度伪造等恶意用途。
Pedraszewska表示：“对模型进行红队测试、理解不良行为及新发布可能带来的意外后果，已成为首要任务。ElevenLabs拥有3300万用户，任何产品变更都会产生广泛影响。”她建议通过加强与用户社区的联系来主动维护平台安全。
关于监管，Pedraszewska呼吁寻找中间地带：“我们不能在‘完全反对AI’与‘零监管’两个极端间运作，需要在监管方面找到平衡点。”