
背景:随着自主AI算力的日益广泛应用,在昇腾产品上的AI开发、模型训练、推理等方面也逐渐多样化,部分客户面临接口调用生疏、丰富的开发工具与技术栈间搭配等各种问题。同时,随着大模型创新速度的爆发,模型参数量越来越大、集群规模剧烈膨胀等因素,上述挑战让客户对昇腾算力变现的效率提出了更多需求,对此行业对服务的诉求更加明朗。
Q:您工作中接触的AI开发团队是按什么职能划分的?比如算法、开发、训练、维护?
摘选回复1
按照工作内容划分。主要可以分两类,懂专业的业务人员和懂技术AI开发人员。懂专业的业务专家可能是是业务负责人、产品经理、项目经理,它们主要懂专业的金融业务,对业务场景有明确理解和思考,可以主导业务需求的落地。懂技术AI开发人员是数据专家、算法专家、开发人员、架构师等等,主要负责对于数据处理、算法调优,代码实现,系统调试搭建部署运维等等工作。另外这些人员中业务专家、架构师、运维人员可能不一定是全职负责,所以AI项目团队需要极多跨部门协调工作。
摘选回复2
算法研发:负责研究和开发人工智能算法,包括机器学习、深度学习等技术的研究和应用。
应用开发:涉及编写和维护AI系统所需的软件代码,包括算法实现、系统集成和优化等。
数据训练:负责收集、清洗和标注数据,以及训练和优化AI模型,使其能够准确识别和预测。
系统维护:确保AI系统的稳定运行,包括故障排除、性能监控和系统升级等。
产品管理:负责AI产品的战略规划、市场定位和生命周期管理以及用户体验管理。
合规:随着AI技术的发展,伦理和合规性也成为AI团队需要关注的重要方面,确保AI技术的合理和负责任使用
摘选回复3
通常按照以下职能进行划分:
【1】模型算法研究团队。负责研究机器学习、深度学习等各类算法,同时,进最新的AI技术和理论的探索和预研;
【2】开发团队。负责编写和维护AI应用的代码,涉及前端和后端开发;
【3】训练与部署团队。负责训练和优化AI模型,调整优化参数,同时将训练好的模型部署到生产环境;
【4】QA团队。负责AI系统的测试及质量保证。其中包括单元测试、集成测试和性能测试等质量保障任务,以确保AI产品符合质量标准;
【5】UI和UE团队。负责用户界面设计、提升用户的产品使用体验;
【6】运维支持团队。负责AI系统的稳定运行和日常维护;
Q:在模型的生命周期维护过程中,有什么服务的诉求?
摘选回复1
1、是服务支撑的诉求,所有客户都会要求集成商或者设备商提供7*24小时的电话咨询、答疑、技术指导甚至现场支撑服务。
2、有安全保障的诉求,无论是数据,还是模型,都要有涉网涉数方面的安全保障措施。
3、是故障处理和维修的诉求,很正常,帮客户排忧解难,出了故障要负责处理的。
4、是性能优化和升级改进的诉求,客户不可能一个模型用一辈子的,要与时俱进不断升级优化改进,这点也是服务提供商后期赚钱盈利的突破点。
摘选回复2
模型的生命周期包括模型的开发、部署、训练、优化和维护等多个过程,每个过程的服务诉求并不一致。开发阶段的诉求主要是降低开发成本和开发难度、提升开发效率。模型部署过程中需要接口调用支持、工具支持等服务。训练、优化以及维护过程中需要对模型的性能、状态、算力平台的整体状态进行监控、智能管理和自动调优,保障模型的运行效率和准确度。
摘选回复3
我会选择AI开发团队按职能划分为算法研究、开发实现、模型训练与维护等几个方面。这样的划分有助于明确团队成员的职责,提高开发效率。
在原厂付费服务方面,AI开发团队可能会选择以下服务:
1)算法优化服务:针对特定应用场景,购买算法优化服务以提升模型性能。
2)开发框架与工具订阅:订阅专业的AI开发框架和工具,以加速开发进程。
3)模型训练云服务:利用云服务商提供的强大计算资源,进行高效的模型训练。
4)技术支持与维护服务:购买原厂的技术支持与维护服务,确保系统稳定运行并及时解决技术问题。
这样的服务选择有助于AI开发团队更好地专注于核心业务,同时利用专业资源提升开发质量和效率。

