大数跨境

推特公布部分源代码,包括其推荐算法

推特公布部分源代码,包括其推荐算法 海外洞察
2023-03-31
2
导读:正如首席执行官埃隆·马斯克所承诺的那样,Twitter 已开源了支撑该社交平台多个部分的源代码。

正如Twitter首席执行官埃隆·马斯克(Elon Musk)反复承诺的那样,Twitter已开放部分源代码供公众查阅,其中包括用于在用户时间线中推荐推文的算法。

在GitHub上,Twitter发布了两个代码库,包含构成该社交网络诸多核心部分的代码,包括控制用户在“为你推荐”(For You)时间线上看到推文的机制。Twitter在博客文章中称此举是“迈向更加透明的第一步”,同时也旨在“防止”对Twitter自身及平台用户造成“风险”。

马斯克:开源算法将迅速修复错误

在今天的一次Twitter Spaces讨论中,马斯克澄清道:

“我们最初发布的所谓算法可能会相当令人尴尬,人们会发现很多错误,但我们会非常迅速地修复它们。”他表示,“即使你不同意某些内容,至少你会知道它为什么存在,而且你不会被秘密操纵……我们aspire的类比典范是作为开源操作系统的Linux的伟大例子……理论上,人们可以发现Linux的许多漏洞。但在现实中,情况是社区识别并修复了这些漏洞。”

开源范围有限,主要面向开发者

关于博客文章中提到的防止风险的第二点,此次开源发布并未包含驱动Twitter广告推荐的代码,也未包含用于训练Twitter推荐算法的数据。此外,这些代码附带的说明很少,涉及如何检查或实际使用代码的内容——这进一步强化了此次发布仅面向开发者的观点。

Twitter写道:“我们排除了任何可能损害用户安全和隐私,或削弱我们保护平台免受不良行为者侵害能力的代码,包括破坏我们在打击儿童性剥削和操纵方面的努力。”这一说法略显矛盾,因为就在几周后Twitter解雇了其大部分负责伦理人工智能、信任与安全的人员,这些人员原本负责内容审核及其他与用户安全相关的任务。但该公司仍坚持认为,通过今天的代码发布,“已采取措施确保用户安全和隐私得到保护”。

一张展示 Twitter 推荐管道工作原理的示意图。图片来源:Twitter

未来将推出工具管理社区建议

Twitter表示,它正在开发工具来管理来自社区的代码建议,并将其更改同步到其内部存储库。预计这些工具将在未来推出——目前尚未见踪影。

马斯克在Spaces会议中表示:“我们将寻找建议,不仅限于错误修复,还包括算法应如何运作。”“这将是一个不断演进的过程。我不期望它会持续单向提升……但我们非常欢迎任何能改善用户体验的建议。”

算法由多个模型组成,技术层面并不意外

乍一看,该算法相当复杂——但从技术角度来看并不一定令人惊讶。它由多个模型组成,包括用于检测“工作场所不宜”(NSFW)或滥用内容的模型、确定Twitter用户与其他用户互动可能性的模型,以及计算Twitter用户“声誉”的模型。(具体什么是“声誉”尚不清楚;高层文档对此并未明确说明。)几个神经网络负责推文排名和推荐关注账号,而一个过滤组件则隐藏推文——借用一下术语——以“支持法律合规、提高产品质量、增加用户信任、通过使用硬过滤、可见的产品处理措施和粗粒度降权来保护收入”。

由推荐算法驱动的 Twitter “为你推荐”时间线。图片来源:Twitter

推荐管道细节:从数亿条推文中提取最优1500条

在一篇工程博客文章中,Twitter透露了其推荐管道的更多细节,该公司声称该管道每天运行约五十亿次:

“我们试图从数亿条推文中提取出最好的1,500条……目前,‘为你推荐’时间线平均由50%[你未关注的用户的推文]和50%[你关注的用户的推文]组成,尽管这可能因用户而异,”Twitter写道。“[推文]的排名是通过一个拥有约4800万参数的神经网络实现的,该网络持续根据推文互动数据进行训练,以优化积极互动(如点赞、转发和回复)。”

当然,Twitter用户并不会看到完整的1,500条推文。它们会根据内容限制以及其他模型考虑的标准和因素进行过滤,例如推文是否收到“负面反馈”,以及是否主要来自同一位Twitter用户,或来自被屏蔽或静音的用户。

名人名单与政治标签引发争议

Gizmodo指出,似乎没有公开的一件事是Twitter向用户推送的名人名单。本周,Platformer报道称,Twitter有一个轮换的知名用户列表,其中包括YouTube博主Mr.Beast和Daily Wire创始人Ben Shapiro,Twitter利用这个列表通过增加这些“强力用户”的可见性来监控推荐算法的变化,这似乎是随心所欲的。

有更多证据表明,算法可能会根据来源对推文采取不同的处理方式。研究员Jane Manchun Wong指出,Twitter的算法会专门标记推文作者是否为Elon Musk,并拥有其他标签,用于指示作者是否为“强力用户”,以及其政治倾向是共和党还是民主党。

在今天下午的Spaces会议期间,一位Twitter工程师表示,这些标签仅用于指标统计。但Musk——他在今天之前并不知道这些标签的存在——表示它们不应该存在。

Twitter 的算法会专门标记推文作者是否为 Elon Musk

“author_is_elon”

除了民主党、共和党和“强力用户”标签之外https://t.co/fhpBjdfifX pic.twitter.com/orCPvfMTb9

—— Jane Manchun Wong (@wongmjane) 2023年3月31日 2023年3月31日

“这绝对不应该将人们划分为共和党和民主党,这毫无意义。”Musk说。

源代码的发布是在近几个月涉及对Twitter推荐算法进行多次调整的争议之后。据Platformer报道,2月,马斯克呼吁Twitter工程师重新配置算法,以便他的推文能被更广泛地查看。(Twitter随后部分撤销了这一更改。)11月,Twitter开始向用户展示更多他们未关注的人的推文——这一举措在马斯克收购之前曾由平台尝试过,但在遭到用户反对后又被逆转。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k