生成式人工智能(Gen AI)在企业中的快速普及正在重新定义流程,推动创新并促进自动化。根据彭博情报(Bloomberg Intelligence)研究,未来十年AI年增长率预计达42%,应用范围也将几乎翻倍。然而,解决方案的成功取决于对输入模型数据的妥善管理,这正是网络安全发挥作用之处,也是保护隐私和信息完整性的关键要素。
生成式AI超越了仅能分类或预测行为的传统模型,能够创建文本、图像和代码等新内容。这种创新能力虽开辟了新的可能性,但需谨慎对待数据使用和安全问题。《Stack Overflow开发者调查2024》显示,31.5%的受访者认为在使用AI时面临的主要挑战之一是缺乏适当的安全风险缓解政策。
企业需实施严格安全措施
Zup StackSpot AI平台技术产品经理John Batista指出,为缓解日益复杂的网络犯罪风险(据《Cyber Security Almanac》预测,到2025年可能造成10.5万亿美元损失),企业必须实施严格的安全措施。
“确保AI模型安全且合乎道德地运行,需要结合强大的加密技术、有效的数据治理、严格的隐私实践以及模型训练期间的访问控制。对于科技公司而言,拥有经过安全培训的AI驱动软件开发助手,可帮助团队确保代码遵循安全编码最佳实践,例如建立预测性漏洞识别机制。创新、安全和数据保护应被视为应用此类技术的三大支柱。”
技术人员责任与立法期待
Contractor联合创始人兼CK Reader开发负责人Henrique Flores表示,在等待更完善法规出台前,技术专业人员有责任确保实施良好的加密实践、数据匿名化及IT治理政策,以保障商业利益平衡、算法训练透明度及数据操作的伦理使用。
创新机遇伴随重大风险
Rethink技术咨询公司首席产品官Giovanna Rossi强调,利用生成式AI创新虽是转型机遇,但也伴随敏感信息泄露和复杂网络攻击等重大风险。“作为数字产品负责人,领导层必须优先考虑战略性方法以缓解风险,以合乎伦理且安全的方式塑造技术,确保其影响积极且可持续。”
巴西安全基础设施滞后与钓鱼攻击威胁
BrandMonitor首席执行官Diego Daminelli警告称,巴西数字化进程加速但安全基础设施进展缓慢,使其成为全球网络攻击主要目标之一。许多企业仍未重视安全文化,依赖过时技术而非采用AI,导致无法全面监控品牌数字存在并面临攻击风险。
该专家以钓鱼攻击为例指出,这是零售和服务行业面临的重大问题:“广告在数字平台上投放时完全盗用品牌身份并承诺不切实际的折扣,将用户引导至模仿官方布局但网址不同的页面,以极低价格诱导客户购买。”

