生成式AI正在颠覆各行各业，这也引发了不可避免的争议。
本月早些时候，Headlime创始人Danny Postma宣布其AI营销文案初创公司被Jasper收购，并推出了Deep Agency。该平台被描述为“AI摄影棚和模特经纪公司”，利用生成式AI创建并提供“虚拟模特”供出租，起步价为每月29美元（限时优惠），客户可将模特置于数字背景中以满足拍摄需求。
Postma在推文中解释道：“Deep Agency是一个摄影棚，但有重大不同：没有相机、真人或实体地点。”其用途广泛，包括为社交媒体网红自动化内容、为市场人员提供广告模特以及电商产品摄影。
目前Deep Agency仍处于概念验证阶段，存在明显问题。模特面部伪影严重，平台对体型生成设置了护栏，且模型创建过程难以控制。例如，尝试生成穿着特定服装（如警察制服）的女性模特时，系统无法实现。
尽管如此，外界对该发布的反应迅速且褒贬不一。
部分Twitter用户称赞该技术，表示有兴趣将其用于服装品牌展示；另一些人则指责Postma推行“极度不道德”的商业模式，即抓取他人照片和肖像牟利。
这种分歧反映了围绕生成式AI的更广泛辩论。该领域在吸引巨额资金的同时，也引发了一系列道德、伦理和法律问题。PitchBook数据显示，2023年生成式AI投资额达426亿美元，预计2026年将飙升至981亿美元。但OpenAI、Midjourney和Stability AI等公司正陷入诉讼，被指责在未公平补偿艺术家的情况下复制其作品。
Deep Agency之所以触动神经，在于其产品应用及其潜在影响。
Postma未回应置评请求，但他毫不掩饰该平台可能与现实世界的模特和摄影师形成竞争，甚至损害其生计。与Shutterstock等平台设立基金分享AI艺术收入不同，Deep Agency并未采取此类措施，也未表示有此打算。
巧合的是，在Deep Agency推出仅几周后，Levi's宣布与设计工作室LaLaLand.ai合作，创建定制化AI生成模特以“增加顾客看到的穿着其产品的模特的多样性”。Levi's强调计划将合成模特与真人模特并用，且不影响招聘计划。但这引发了质疑：鉴于历史上多样化特征模特在时尚界寻找机会的难度，为何品牌不直接招募更多具备相应特征的真人模特？调查显示，截至2016年，时尚广告中78%的模特是白人。
华盛顿大学研究伦理AI的博士生Os Keyes指出，模特行业和摄影特别容易受到生成式AI冲击，因为从业者缺乏结构性权力。他们大多是大型公司的低收入独立承包商，而大公司寻求削减成本。模特通常需承担高额经纪公司佣金（约20%）及机票、住宿、宣传材料等业务费用。
Keyes表示：“如果Postma的应用能运作，实际上旨在进一步动摇已处于不稳定状态的创意工作者，并将资金流向自己。这并不值得称赞，但也并不令人惊讶。从社会经济角度看，这类工具被设计用来进一步掏空行业并集中利润。”
其他批评者对底层技术提出异议。Deep Agency使用的扩散模型通过处理网络抓取的训练数据学习生成图像。艺术家担忧这些模型倾向于“基本复制粘贴”受版权保护的内容。
商业化扩散模型的公司长期声称“合理使用”原则能保护其使用授权内容训练的行为。但艺术家指控这些模型侵犯权利，因训练数据来源未经其授权或同意。
AI伦理学家、Knives and Paintbrushes开源研究小组成员Mike Cook表示：“这类初创公司的合法性尚不清楚，但明确的是它旨在让许多人失业。若不涉及经济、资本主义和商业等深层问题，很难讨论此类工具的道德性。”
对于怀疑作品被用于训练的艺术家，目前没有任何机制可将作品从训练数据集中移除。这比DeviantArt和Stability AI等平台更糟糕，后者为艺术家提供了选择不贡献作品的途径。
Deep Agency也未说明是否会考虑为帮助创建模型的艺术家建立收入分成。而Shutterstock等供应商正尝试通过综合资金池补偿创作者。
Cook还指出了数据隐私问题。
Deep Agency允许客户上传约20张照片创建“数字孪生”模型。除非用户随后明确删除，否则上传的照片将被添加到平台高级模型的训练数据中。
Deep Agency的隐私政策未确切说明如何处理用户上传的照片及存储位置。此外，似乎无法阻止恶意行为者在未经同意的情况下创建他人的虚拟孪生体。鉴于非自愿深度伪造裸照等问题，这种担忧是合理的。
Cook指出：“其使用条款声明‘其他人可能生成相似或相同的图像’。该产品的前提是每个人都能拥有产生独特结果的定制AI模型，但在现实中，用户可能得到与他人完全相同的图像，且照片也被提供给他人潜在使用。大公司恐怕不会喜欢这两种情况中的任何一种。”
Keyes表示，Deep Agency训练数据的另一问题是原始数据集缺乏透明度。目前尚不清楚模型基于哪些图像训练（尽管图像中的混乱水印提供了线索），这使得算法偏见的可能性依然存在。
越来越多研究发现，图像生成AI存在种族、族裔、性别等刻板印象。Hugging Face与莱比锡大学研究人员本月发布工具证明，Stable Diffusion和DALL-E 2等模型倾向于生成白人和男性图像，尤其在描绘权威人物时。
Vice报道指出，Deep Agency除非购买付费订阅，否则只会生成女性图像，这是一种有问题的偏见。此外，即使在目录中选择不同种族或样貌的女性，平台也往往倾向于创建金发白人女性模特。改变模特形象需要额外且不明显的调整。
Keyes说：“图像生成AI存在根本缺陷，因为它依赖于训练数据的代表性。如果数据主要包含白人、亚裔和浅肤色黑人，无论有多少合成技术，都无法为深肤色人群提供代表性。”
尽管Deep Agency存在明显问题，Cook并不认为它或类似工具会在短期内消失。该领域金钱利益巨大，除Deep Agency和LaLaLand.ai外，ZMO.ai和Surreal等初创公司也在获得巨额风投，完全不顾伦理道德。
Cook表示：“这些工具还不够好，任何测试过Deep Agency的人都能看到这一点。但这只是时间问题。企业家和投资者将继续在这些机会上碰壁，直到找到让其中一种成功的方法。”