生成式人工智能(Gen AI)在企业中的快速普及正在重新定义业务流程,推动创新并促进自动化。根据彭博情报(Bloomberg Intelligence)最近的一项研究,未来十年人工智能的增长率预计将达到每年42%,其应用范围也将几乎翻倍。然而,这些解决方案的成功取决于对输入模型的数据进行妥善管理。这正是网络安全发挥作用的地方——它是保护隐私和信息完整性的关键要素。
生成式人工智能超越了仅能分类或预测行为的传统人工智能模型,它能够创建新的内容,如文本、图像和代码。这种创新能力在多个领域开辟了新的可能性,但需要谨慎对待数据的使用和安全问题,这一点也得到日常使用技术的人群的认可。根据《Stack Overflow开发者调查2024》的研究,在与人工智能合作时面临的主要挑战之一(31.5%)是缺乏适当的安全风险缓解政策。
在此背景下,技术产品经理John Batista负责Zup StackSpot AI平台,他解释说,为了降低这些风险,企业必须实施严格的安全措施,因为网络犯罪日益复杂,据《网络安全年鉴》(Cyber Security Almanac)称,到2025年可能造成10.5万亿美元的损失。
“确保人工智能模型安全且合乎道德地运行,需要一种多方面的方法,结合强大的加密技术、有效的数据治理、严格的隐私实践以及在模型训练期间的严格访问控制。对于科技公司而言,拥有一位经过安全培训的人工智能驱动软件开发助手,可以帮助团队确保代码遵循安全的编码最佳实践。例如,这是一种预测性漏洞识别机制。越来越多的观点认为,应将创新、安全和数据保护视为应用此类技术的三大支柱,制定综合策略。”
关于立法问题,Contractor联合创始人兼CK Reader(该初创公司的人工智能产品)开发负责人Henrique Flores表示,在等待更好地规范生成式人工智能使用的立法出台之前,技术专业人员有责任确保实施良好的加密实践、数据匿名化以及信息技术(T.I.)治理政策,从而保障各方商业利益的平衡、算法训练机制的透明度以及数据操作的伦理使用。
尽管承认利用生成式人工智能等新兴技术进行创新是转型的独特机遇,但Rethink(一家提供技术咨询、设计和战略服务的公司)的首席产品官Giovanna Rossi强调,不可否认的是,这一过程伴随着重大风险,例如敏感信息泄露以及遭受复杂网络攻击的可能性。“作为数字产品领域的负责人,我深刻认识到,领导层在采用人工智能时必须优先采取战略性方法以缓解此类风险。我们有责任以合乎伦理且安全的方式塑造这项技术,确保其影响对所有利益相关者都是积极且可持续的。”
巴西互联网上数据流通量巨大,数字化进程也在加速。在品牌保护方面,BrandMonitor(一家在打击数字环境中不正当竞争领域处于先驱地位并具备专业知识的公司)的首席执行官Diego Daminelli警告称,巴西的安全基础设施发展仍然缓慢,使该国成为全球网络攻击的主要目标之一,且犯罪分子实施的网络攻击手段日益复杂。“安全意识在许多企业中仍未得到足够重视,这些企业不仅未采用人工智能技术,反而依赖过时的技术,这使其容易受到攻击,并且无法全面监控品牌的数字存在。”
该专家以网络钓鱼为例,指出这是零售和服务提供等行业面临的重大问题。“广告在数字平台上投放时,会完全使用品牌身份并承诺不切实际的折扣。此类广告会将用户引导至一个模仿公司官方布局但网址不同的页面,在该页面上以极低价格提供产品或服务,从而诱导客户购买。”

