有两个点值得注意:
1. 通过实验的方式给出结论,相同的模型在不同的 coding agent(harness) 下表现差别非常之大,这也是为什么基模厂都要自己做 coding agent 的原因之一,为了弥合这个差异,huggingface 用自家的框架来针对不同的 coding agent 做了 lora adapter, 需要针对不同 harness 做 harness scaling 的,直接抄作业就好
2. 实验选的基模是来自 Liquid AI 的 LFM(Liquid AI 主打端侧智能,很值得关注)本身是一个类似 RWKV 的亲 RNN 体系模型,liquid ai 算是一个小型商业化尝试,背后的研究团队另成立了一个实体叫 Radical Numberics ( https://www.radicalnumerics.ai/) ,主页上非常“嚣张”的写着 “Solve Biology”,他们有资格嚣张,因为 EVO2/1 采用的核心架构, StripedHyena/Hyena 就是出自这帮人之手,最近刚发布了 Omnii-1,多模态基因组语言模型
BTW,国内的 RWKV 其实一点都不比 StripedHyena 弱....

