大数跨境

大型资产管理公司担心自身需要承担与AI新兴技术相关问题的责任

大型资产管理公司担心自身需要承担与AI新兴技术相关问题的责任 Shanghai London Connect沪伦通
2023-08-01
2

大型机构投资者正加大对科技公司的压力,要求它们为潜在的人工智能滥用(potential misuse of AI )承担责任,因为它们开始担心与该软件相关的人权问题的责任。

数字包容性集体影响联盟(Collective Impact Coalition for Digital Inclusion)由管理着6.9万亿美元资产的32家金融机构组成(Digital Inclusion of 32 financial institutions),包括Aviva Investors,Fidelity International和HSBC Asset Management。联盟带头推动科技企业致力于合乎道德的人工智能的组织之一(commit to ethical AI)。

近几个月来,Aviva Investors与包括芯片制造商在内的科技公司举行了会议,警告加强对与人工智能相关的人权风险的保护,包括监控、歧视、未经授权的面部识别和大规模裁员。(surveillance, discrimination, unauthorised facial recognition and mass lay-offs.)

Aviva Investors资产管理部门的股票ESG整合主管路易斯•皮弗特(Louise Piffaut)表示,由于对ChatGPT等生成式人工智能的担忧,与企业就这一主题举行的会议越来越多(accelerated in pace and tone),如果engagement失败,Aviva Investors可能会在年度股东大会(annual general meetings)上投票反对管理层(vote against management),向监管机构提出关切,或出售企业股票。(Raise concerns with regulators or sell shares)

Piffaut说:“公司很容易逃避责任(depart from accountability ),称客户滥用AI产品并非企业的错误:这正是这场会议的对话变得更艰难的地方。”

两个月前,挪威规模达1.4万亿美元的石油基金的首席执行官尼古拉•坦根(Nicolai Tangen)透露,该基金将为其投资的9000家公司如何合乎道德使用人工智能设定指导方针(guidelines),并呼吁对这个快速增长的行业加强监管。

管理着逾2260亿(£226bn )英镑资产的Aviva Investors投资在全球最大代工芯片制造商台积电(Taiwan Semiconductor Manufacturing Company)持有少量股份。当下对台积电生产的用于训练大型人工智能模型( train large AI models )(如ChatGPT背后的模型)的先进芯片的需求激增( surge in demand)。

Aviva Investors在腾讯控股(Tencent Holdings)、三星电子(Samsung Electronics)、联发科(MediaTek)和英伟达(Nvidia)等硬件和软件公司持有股份,也持有Alphabet和微软(Microsoft)等正在开发生成式人工智能工具的科技公司的股份。

Aviva Investors管理公司还与消费者、媒体和工业公司会面,检查他们是否致力于对工人进行再培训,而不是在他们的工作因与人工智能相关的效率(efficiencies linked to AI)而面临被淘汰的风险时解雇他们(their jobs were at risk of elimination )。

Fidelity International的管理和可持续投资主管(head of stewardship and sustainable investing)Jenn-Hui Tan表示,对“隐私问题、算法偏见和工作保障”(privacy concerns, algorithmic bias and job security)等社会问题的担忧,已经让位于“对民主乃至人类未来的实际生存的担忧”。( future of democracy and even humanity)

她表示,Fidelity International一直在与硬件、软件和互联网公司会面,讨论这些问题,并将考虑在它认为没有取得足够进展的公司撤资(divestment)。

对森林砍伐和武器供应(deforestation and arms supplies)等问题制定了管理守则( stewardship codes)的英国最大资产管理公司Legal & General Investment Management表示正在编写一份关于人工智能的类似文件。

英国政府资助的智库影响力投资研究所(Impact Investing Institute)首席执行官基伦•博伊尔(Kieron Boyle)表示,“越来越多的影响力投资者(impact investors)”担心,人工智能可能会减少各行业女性和少数族裔的初级机会,使劳动力多样性倒退数年。(setting workforce diversity back years)

荷兰非营利组织世界基准联盟(World Benchmarking Alliance)的欧盟公共政策负责人理查德•加德纳(Richard Gardiner)表示,推动科技公司关注整个供应链投资者希望提前防范可能出现的道德和监管风险(stay ahead of possible ethical and regulatory risks)。该联盟发起了这个集体影响联盟,表示像Aviva Investors这样的投资机构可能担心,如果他们不采取行动,有朝一日可能会被要求对其投资的公司(investee companies)的侵犯人权(human rights breaches )的行为负责。

在WBA 3月份评估的200家科技公司中,只有44家发布了关于合乎道德的人工智能的框架。(a framework on ethical artificial intelligence.)

联盟表示,少数公司表现出最佳实践的迹象(signs of best practice)。索尼(Sony)制定了有关人工智能的道德准则,该集团的所有员工都必须遵守;沃达丰(Vodafone)为那些认为自己因人工智能系统做出的决定而受到不公平对待的客户提供补救(a right of redress );德国电信(Deutsche Telekom)拥有随时关闭人工智能系统的“死亡开关”。(kill switch)

长期以来,人们一直期望采矿业(mining)等行业在其整个供应链中对人权问题承担责任,但监管机构一直在努力将这种期望扩大到科技公司和金融公司。

欧盟的企业尽职调查指令——正在由成员国( member states,)、高管和立法者进行谈判——预计将要求芯片制造商等公司考虑其价值链中的人权风险。(human rights risks in their value chain.)

经合组织OECD本月早些时候更新了针对跨国公司的自愿指导方针(voluntary guidelines),称科技公司应努力防止与其产品——包括与人工智能相关的产品——相关的环境和社会危害。

AI将在三个关键行业重塑我们的工作方式:专业服务(Professional services)、影视制作和编写代码(filmmaking and coding )是首批在日常工作中使用生成式人工智能的行业。

人工智能工具得到加强(AI tools enhanced),使它们易于使用,并可以协助实际的法律案件工作。在分配给初级员工的任务上可以节省最多的时间采用的速度很快(Adoption has been swift),但也有局限性——AI并不总是正确,人工智能可能会增加工作强度,而不是取代工作岗位。取代的方向不是从上到下,而是从基层岗位(shop floor)。作为伦敦安理律师事务所(Allen & Overy)的律师,他们已经在日常工作中使用新的生成式人工智能工具。安理律师事务所大约有3500名员工可以使用Harvey,这是一个基于OpenAI最新模型版本构建的人工智能平台,这些模型已经为法律工作进行了增强。

o, what are the advertising regulations in the UK that might apply in augmented reality? I asked Harvey and got a really nice list. Before, I would have asked my trainee or a junior lawyer to go and find that out, and it would have taken that much longer.” 

商业知识产权律师山德罗说,他最近在利用Harvey为一笔涉及元宇宙产权的交易做准备(property rights in the metaverse.)。在Harvey上得到了一份非常好的针对英国的广告法规(advertising regulations)适用于增强现实(augmented reality)的清单。

布拉姆哈特也表示,她和资历较浅的同事经常使用这项技术,尽管结果好坏参半(albeit with mixed results)

对韦克林来说,最重要的事情之一是不要让员工相信这个工具比它的实际能力更强。(one of the most important things is not to allow staff to believe the tool is more capable than it really is.)“深沉Harvey就像一个非常自信、非常善于表达(articulate)的13岁孩子。它不知道自己不知道什么。(It doesn’t know what it doesn’t know.)它有一些惊人的知识,但不完整的知识。(fabulous but incomplete knowledge.)

普华永道负责税务、法律和人事业务的首席技术官比维克•夏尔马(Bivek Sharma)坚称,该公司仍希望——也需要——将员工培训成“主题专家”(subject matter experts),但培训的方式和速度很快就会发生变化。他预测:“人们对他们的期望会越来越高。”

编剧们(Screenwriters)因担心人工智能会减少他们可获得的工作而罢工,AI配音技术可以扩大外语片的覆盖范围,对演员来说,潜在的好处包括出租“数字替身”(Digital doubles)。

好莱坞导演与电影公司达成的初步协议包括一项条款(d a clause),该条款可宣布人工智能“不能取代”导演履行的“职责”。这一声明是好莱坞劳资协议史上的一个里程碑,尽管很少有人担心导演很快会被人工智能取代。

从编剧(自5月1日以来一直在罢工)到演员和配音师,好莱坞其他人的担忧更为紧迫。编剧们担心,在一个由人工智能完成改编书籍或初稿的世界里,他们收入不错的工作会减少。演员们担心失去对自己形象的控制,而配音员则担心新的人工智能技术会将口型与不同语言相匹配,从而取代他们的工作。

一些热门的人工智能初创公司已经推出了配音技术,他们说这种技术可以在拍摄现场节省时间和资金。例如,Flawless开发了一种工具,使电影制作人能够使用生成式人工智能在已经拍摄的场景中插入新的对话,从而消除了重建布景和让演员重新拍摄的需要(rebuilding sets and flying actors in for a reshoot)。演员将在工作室录制新的对话,人工智能技术将调整原始镜头中演员的“口型”,使画面看起来更自然。

Flawless和英国人工智能初创公司Papercup还开发了一种工具,可以解决配音电影中口型与配音不一致的问题( mouth movements do not match the voiceover)。上个月,Flawless与XYZ Films和Tea Shop Productions建立了合作关系,购买外语片的版权,利用人工智能将对白转换成英语,然后在英语市场发行。这个协议有可能极大地扩大外语片的覆盖范围。 

根据美国作家协会(Writers Guild of America)的提议,该工会希望防止人工智能程序被用来编写剧本或重写人类创作的作品。WGA表示,目前人工智能唯一可接受的用途是用于研究。

资料来源:FT中文,ZDNET,Britannica


【声明】内容源于网络
0
0
Shanghai London Connect沪伦通
1234
内容 370
粉丝 0
Shanghai London Connect沪伦通 1234
总阅读1.1k
粉丝0
内容370