大数跨境

阿里巴巴员工揭秘中国大语言模型的构建过程

阿里巴巴员工揭秘中国大语言模型的构建过程 海外洞察
2024-02-27
1
导读:中国科技公司正在汇聚各类资源和人才,以缩小与OpenAI的差距,而双方研究人员的经验

中国科技公司正汇聚资源与人才,以缩小与 OpenAI 的差距。太平洋两岸研究人员的经历呈现出惊人的相似性。阿里巴巴一名研究人员近日在 X(原 Twitter)上分享的帖子,罕见揭示了这家电商巨头开发大语言模型(LLM)的日常。作为众多试图匹敌 ChatGPT 的中国互联网巨头之一,阿里的动态备受关注。

中美研究员日程高度重合

阿里巴巴 Qwen 团队自然语言处理研究员 Binyuan Hui 分享了其每日日程,这与近期走红的 OpenAI 研究员 Jason Wei 的作息如出一辙。平行观察显示:两人均于早上 9 点起床、凌晨 1 点左右入睡;一天从会议开始,随后进入编码、模型训练及头脑风暴阶段;即便回家,夜间仍在运行实验并思考模型优化,直至深夜就寝。

显著区别在于休闲方式。Hui 表示会通过阅读论文和浏览 X 来了解“世界动态”,并未像 Wei 那样饮酒放松。这种高强度节奏在中国 LLM 领域并不罕见,顶尖技术人才正蜂拥加入科技公司构建 AI 模型。

Hui 的日程安排似乎反映了个人在 AI 领域对标甚至超越硅谷的动力。这不同于传统互联网业务(如游戏、电商)中非自愿的“996”工作制,更多体现为一种自驱力。

我在Qwen担任技术人员的典型一天(仅为我自己):
[上午9:00] 起床,可能会在床上多躺15分钟。
[上午9:30] 打车去上班,浏览X以了解世界动态,查看@_jasonwei的最新帖子。
[上午10:00] 工作……

— Binyuan Hui 2024年2月21日

行业普遍的高强度与伦理

著名 AI 投资者李开复在新成立的 LLM 独角兽公司 01.AI 中也展现出类似状态。他承认熬夜加班是常态,但员工系自愿努力。曾有员工在凌晨 2:15 发消息表达参与公司使命的兴奋之情。这种外在表现折射出中国科技公司的紧迫感及 LLM 的快速迭代速度。

阿里 Qwen 的技术布局与商业化

Qwen 已开源一系列基于中英文数据训练的基础模型,最大参数量达 720 亿(注:OpenAI GPT-3 约 1750 亿参数,GPT-4 约 1.7 万亿参数)。尽管参数规模存在差异,但特定目标才是解读价值的关键。商业应用方面,去年 4 月阿里已将 Qwen 整合至钉钉和天猫平台。

目前中国 LLM 领域尚未出现绝对领导者,资本正向多个竞争者分散下注。除自研外,阿里还积极投资 Moonshot AI、Zhipu AI、Baichuan 及 01.AI 等初创公司。

差异化竞争:聚焦东南亚多语言市场

面对激烈竞争,阿里正通过多语言举措开辟细分市场。去年 12 月发布的 SeaLLM 支持越南语、印尼语、泰语、马来语、高棉语、老挝语、他加禄语和缅甸语。依托云计算业务及 Lazada 的收购布局,阿里有望在该地区将电商服务与 SeaLLM 深度整合。

中国如何构建平行生成式AI宇宙

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14179
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读975
粉丝0
内容14.2k