大数跨境

Meta 构建了一个类似 Copilot 的代码生成 AI 模型

Meta 构建了一个类似 Copilot 的代码生成 AI 模型 海外洞察
2023-05-18
1
导读:Meta开发了一个名为CodeCompose的代码生成模型,并声称已在内部用于生产系统。

Meta宣布开发了一款类似GitHub Copilot的生成式AI编程工具——CodeCompose。该消息在Meta聚焦AI基础设施及自研定制芯片加速模型训练的活动上发布。目前CodeCompose尚未对外公开,但Meta团队已在VS Code等IDE中内部使用,以获取Python及其他语言的代码建议。

Meta软件工程师Michael Bolin表示:“底层模型基于Meta公开研究构建,并针对内部用例和代码库进行了调整。在产品层面,我们已将CodeCompose集成到开发人员或数据科学家处理代码的各类界面中。”

在Meta训练的多个CodeCompose模型中,最大版本拥有67亿参数,约为Copilot基础模型参数量的一半。参数定义了模型从历史数据中学习到的能力,直接影响其在文本生成等特定任务上的表现。

CodeCompose基于Meta第一方代码微调,涵盖Hack语言编写的内部库与框架,能将相关内容纳入编程建议。此外,其基础训练数据集已过滤掉已弃用API等不良编码实践,以降低推荐问题代码的风险。

CodeCompose示意图
图片来源:Meta

实际操作中,用户键入代码时,CodeCompose可提供注释、导入语句等建议,支持单行或多行补全,并能选择性填充大段代码。Bolin指出:“CodeCompose能利用上下文代码提供更精准建议,并将代码注释作为生成信号。”

Meta透露,每周数千名员工使用CodeCompose,采纳率超20%。但该公司未回应代码生成AI相关争议。

微软、GitHub和OpenAI正面临集体诉讼,指控Copilot复述受版权保护代码且未署名。法律专家警告,若企业无意中将AI生成的受版权保护建议纳入生产软件,可能面临风险。目前尚不清楚CodeCompose是否使用了授权或受版权保护的代码进行训练。

对此,Meta发言人回应:“CodeCompose基于Meta AI研究部门发布的InCoder训练。InCoder论文明确指出,训练数据仅包含GitHub/GitLab上宽松非Copyleft开源许可的公共代码,以及StackOverflow的问题、回答和评论。CodeCompose的额外训练仅基于Meta内部代码。”

斯坦福大学研究显示,使用代码生成AI的工程师更易引入安全漏洞。尽管研究未专门针对CodeCompose,但逻辑上使用该工具的开发者也可能面临相同风险。

Bolin强调,开发人员无需强制采纳CodeCompose建议,安全是模型创建的“首要考量”。他表示:“我们对CodeCompose的进展感到兴奋,相信能为开发者提供最佳服务体验。”
【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k