16岁被招进 Kimi，17岁，陈广宇离开了。
今天陈广宇（Nathan Chen）在 X 上宣布，自己最近已经离开月之暗面。去年11月加入时，他才16岁；不到一年，已经参与了 KDA 注意力内核优化、Attention Residuals 架构研究，以及 Kimi K3 的发布工作。
告别帖里，他把这段经历称为“迄今为止人生中最美好的一年”，特别感谢了杜雨伦——当年愿意相信并聘用一个16岁少年的那个人。
一次回复，改变了研究的起点
把时间拨回2025年初，陈广宇还在做一个叫 ThirdArm 的项目，想为人类设计一只额外的机械辅助手。
他带着这个想法参加北京的一场中学生黑客松，结识了董科含。后来，经董科含引荐，他认识了 DeepSeek 研究员袁境阳，开始把精力转向大模型底层研究。
那时，他还在补 Transformer 的知识。Gemini 成了读论文时的帮手，GitHub 上的开源代码则让公式有了具体实现：Attention 怎么计算，Triton 内核怎么写，同一个算法在 GPU 上怎样跑得更快。
2025年7月，陈广宇在 X 上回顾过其中一次转折。
三个月前，他发现了 DeltaNet，花了几个小时才弄懂。觉得很有意思，便把相关博客分享到自己的账号——当时关注者还不到20人。
随后，他收到了 Songlin 的回复。
这个简单的回复，改变了一个16岁少年的生活轨迹。
那个暑假，他去了旧金山，在一家 AI 初创公司实习了七周。11月，他加入月之暗面，继续做自己已经在开源社区接触过的高效注意力方向。
几个月后，名字写进了架构论文
加入 Kimi 后，陈广宇和张宇一起优化 Kimi Delta Attention（KDA）的内核。按照他在告别帖里的说法，两人把能想到的设计都试了一遍。
随后，是与张宇、苏剑林一起构思和完善 Attention Residuals。
今年3月，论文公开。贡献列表最前面的三个名字，是陈广宇、张宇和苏剑林，均标注为同等贡献的共同第一作者。
这项工作改的是模型各层之间传递信息的方式。
标准残差连接把前面各层的输出以固定权重累加。Attention Residuals 则引入注意力权重，让当前层根据输入，有选择地汇合前面的表示。为了把内存和通信开销控制下来，团队又提出了按块组织历史表示的 Block AttnRes。
左为标准残差连接，右为 Full AttnRes：从固定累加变为对历史层输出进行加权；Kimi Team《Attention Residuals》图1局部
论文在 Kimi Linear 的48B总参数、3B激活参数架构上进行了训练验证。对这个一路从读论文、看内核实现走来的少年而言，研究对象已经从“别人的设计怎样工作”，变成了“这些连接还能怎样设计”。
优化器、通宵，还有世界杯
陈广宇在告别帖里写，研究优化器，是让他最难忘的一段工作，也是他熬通宵最多的地方。
另一段回忆就轻松得多：和张宇、@Xinyu2ML 一起，一边看世界杯，一边制作 K3 的发布案例。
底层内核、模型架构、训练动态之外，这一年也有一起赶发布、一起看球的同事。他特意重提了自己在 K3 发布时的感受：能和一群真诚的人，一起做出这样开放而强大的模型，很不可思议。
他对技术分享本身，也有过一次挺有意思的反思。
在一篇题为《Twitter 很棒，但别为了爆款而优化》的博客里，他写到，X 帮他认识朋友、找到工作，也让自己写的技术教程被更多人看到。但如果一直想着下一条发什么、浏览量够不够高，原创研究就容易被挤到后面。
他给自己的建议是：多追求真正的交流，少追着曝光数字跑。
这次告别，他没有公布下一份工作的名字，只留了一句：
More things to explore :)
参考链接
-
Attention Residuals 论文：https://arxiv.org/abs/2603.15031 -
陈广宇个人主页：https://nathanchen.me/ -
陈广宇谈技术分享与研究：https://nathanchen.me/public/Twitter%20is%20Awesome,%20but%20Don't%20Optimize%20for%20Virality.html