大数跨境
分享
哈工大博士研发新算法,5分钟压缩大模型体积近50%
2025-12-30 21:40 星期二
哈尔滨工业大学博士徐玉庄研发出一项名为CAMERA的新技术,可在5分钟内完成对参数量达570亿的大型语言模型Qwen2-57B-A14B的冗余识别与高效压缩。该技术能精准移除约20%的冗余结构,而模型性能几乎不受影响,显著提升其在手机、边缘设备等小型硬件上的运行效率。相比传统剪枝方法容易导致知识丢失或性能下降,CAMERA通过更精细的神经元级分析,在压缩模型的同时保持甚至增强其能力,有效缓解了混合专家模型中普遍存在的知识冗余问题。这项进展标志着模型压缩从粗粒度“砍枝条”迈向高精度“修神经元”的新阶段。
新闻推荐 查看更多
大数快讯小程序
跨境每一天
从大数快讯开始
扫码访问小程序
热门报告 查看更多
加入卖家交流群