英伟达老板老黄(黄仁勋)最近的一段话引起了投资者对人工智能的狂热。他说 现在是人工智能的iPhone时刻，每个人都是程序员，不管你是护士、工人、小企业主还是别的什么，你可以编写任何程序。
Amazon 宣布他们的模型效果超过 GPT3.5，但参数只有10亿。主要依靠 CoT Prompts
2022 年，DeepMind 贴出了一篇著名的方向性的 paper, 题为 Training Compute-Optimal Large Language Models 不过业内一般叫做 Chinchilla (龙猫). 大致的意思是语言模型的参数量，语料大小和最佳损失（即模型效果）之间符合一个凸曲线。多大量的语料和多大的模型配合有个经验公式。
