大数跨境

人工智能、网络安全与隐私:在生成式人工智能时代如何保护敏感数据

人工智能、网络安全与隐私:在生成式人工智能时代如何保护敏感数据 巴西跨境研究社
2024-10-02
1
导读:生成式人工智能(Gen AI)在企业中的快速普及正在重塑业务流程,推动创新并加速自动化。据彭博情报(Bloomberg Intelligence)最新研究,其增长率……

生成式人工智能(Gen AI)在企业中的快速普及正在重新定义流程,推动创新并促进自动化。根据彭博情报(Bloomberg Intelligence)研究,未来十年AI年增长率预计达42%,应用范围也将几乎翻倍。然而,解决方案的成功取决于对输入模型数据的妥善管理,这正是网络安全发挥作用之处,也是保护隐私和信息完整性的关键要素。

生成式AI超越了仅能分类或预测行为的传统模型,能够创建文本、图像和代码等新内容。这种创新能力虽开辟了新的可能性,但需谨慎对待数据使用和安全问题。《Stack Overflow开发者调查2024》显示,31.5%的受访者认为在使用AI时面临的主要挑战之一是缺乏适当的安全风险缓解政策。

企业需实施严格安全措施

Zup StackSpot AI平台技术产品经理John Batista指出,为缓解日益复杂的网络犯罪风险(据《Cyber Security Almanac》预测,到2025年可能造成10.5万亿美元损失),企业必须实施严格的安全措施。

“确保AI模型安全且合乎道德地运行,需要结合强大的加密技术、有效的数据治理、严格的隐私实践以及模型训练期间的访问控制。对于科技公司而言,拥有经过安全培训的AI驱动软件开发助手,可帮助团队确保代码遵循安全编码最佳实践,例如建立预测性漏洞识别机制。创新、安全和数据保护应被视为应用此类技术的三大支柱。”

技术人员责任与立法期待

Contractor联合创始人兼CK Reader开发负责人Henrique Flores表示,在等待更完善法规出台前,技术专业人员有责任确保实施良好的加密实践、数据匿名化及IT治理政策,以保障商业利益平衡、算法训练透明度及数据操作的伦理使用。

创新机遇伴随重大风险

Rethink技术咨询公司首席产品官Giovanna Rossi强调,利用生成式AI创新虽是转型机遇,但也伴随敏感信息泄露和复杂网络攻击等重大风险。“作为数字产品负责人,领导层必须优先考虑战略性方法以缓解风险,以合乎伦理且安全的方式塑造技术,确保其影响积极且可持续。”

巴西安全基础设施滞后与钓鱼攻击威胁

BrandMonitor首席执行官Diego Daminelli警告称,巴西数字化进程加速但安全基础设施进展缓慢,使其成为全球网络攻击主要目标之一。许多企业仍未重视安全文化,依赖过时技术而非采用AI,导致无法全面监控品牌数字存在并面临攻击风险。

该专家以钓鱼攻击为例指出,这是零售和服务行业面临的重大问题:“广告在数字平台上投放时完全盗用品牌身份并承诺不切实际的折扣,将用户引导至模仿官方布局但网址不同的页面,以极低价格诱导客户购买。”

【声明】内容源于网络
0
0
巴西跨境研究社
各类跨境出海行业相关资讯
内容 7434
粉丝 0
巴西跨境研究社 各类跨境出海行业相关资讯
总阅读43.9k
粉丝0
内容7.4k