

【人工智能】语言模型的真正危险：人工智能骗局

七元宇宙

2024-12-07

导读：AI 驱动的诈骗。AI 驱动的复杂诈骗的可能性是技术进步领域出现的全新威胁。虽然电话诈骗自电话发明以来就一直令人担忧，但LLM广泛融入数字通信的各个方面，大大提高了风险。在我们拥抱人工智能潜力的同时，

想象一下：你正在工作，全神贯注于紧迫的最后期限，这时你接到一个似乎是你母亲的电话。电话那头的声音无疑是她的声音，平静而充满爱意，但又带着一丝不寻常的紧迫感。她告诉你，她在巴黎度假时遇到了严重的麻烦，需要你立即提供经济援助来解决问题。你知道她在巴黎，她提供的详细信息，甚至包括她住的酒店的名字，都让这通电话更加令人信服。你毫不犹豫地转账，但后来才发现，你母亲根本没有打过那个电话；这是一个先进的人工智能系统，完美地模仿了她的声音，编造了一个详细的场景。当你意识到刚刚发生的事情时，不寒而栗。

这种曾经纯粹是科幻小说的场景，如今已成为现实。大型语言模型 (LLM) 等人工智能技术的出现带来了令人难以置信的进步。然而，一个重大威胁迫在眉睫：人工智能驱动的诈骗。人工智能驱动的复杂诈骗的可能性是技术进步领域出现的全新威胁。虽然电话诈骗自电话发明以来就一直令人担忧，但大型语言模型(LLM) 广泛融入数字通信的各个方面，大大提高了风险。在我们拥抱人工智能潜力的同时，加强对这些日益复杂的威胁的防御也至关重要。

当前电话诈骗的现状

多年来，犯罪分子一直试图欺骗毫无戒心的个人转移资金或泄露敏感信息，但尽管电话诈骗盛行，但其中许多诈骗手段相对简单，依赖于人工读稿操作员。然而，即使存在这种限制，电话诈骗仍然是一项有利可图的犯罪活动。

根据美国联邦贸易委员会的数据，仅在 2022 年，美国人就因欺诈损失了超过 88 亿美元，其中很大一部分是电话诈骗造成的，这意味着，即使以目前不太先进的形式，许多此类手段仍然对弱势群体有效。当它们进化时会发生什么？

人工智能驱动的诈骗未来

随着几项关键技术的出现，电话诈骗的形势将发生巨大变化：

大型语言模型 (LLM)

这些人工智能系统可以生成类似人类的文本并进行自然对话。当应用于诈骗时，LLM 可以创建极具说服力和适应性的脚本，使潜在受害者更难识别骗局。

检索增强生成 (RAG)

这项技术使 LLM 系统能够实时访问和利用大量信息。诈骗者可以根据某人的公开信息（例如其社交账户）建立个人资料。他们还可以对朋友和家人使用社交工程技术来收集更深入的信息。这将使他们能够访问目标的身份、工作信息甚至近期活动等信息。然后，他们可以使用 RAG 为 LLM 提供所需的背景信息，使他们的方法看起来非常个性化和合法。

合成音频生成

Resemble AI和Lyrebird等平台在创建高度逼真的 AI 生成声音方面处于领先地位。这些技术能够产生个性化、类似人类的音频，可用于各种应用，从虚拟助手到自动客户服务和内容创建。ElevenLabs 等公司正在进一步突破界限，让用户能够创建与自己声音非常相似的合成声音，从而实现数字互动的个性化和参与度达到新的水平。

合成视频生成

Synthesia等公司已经展示了利用人工智能生成的虚拟形象制作逼真视频内容的潜力。未来几年，这项技术可能让诈骗者冒充朋友或家人，或者在视频通话中创建完全虚构的角色，为诈骗带来前所未有的真实感。

人工智能唇形同步

Sync Labs等初创公司正在开发先进的口型同步技术，该技术可以将生成的音频与视频片段进行匹配。该技术可用于制作令人信服的历史人物、政治家、名人以及几乎所有其他人的深度伪造视频，进一步模糊现实与欺骗之间的界限。

这些技术的结合描绘了一幅令人担忧的画面。想象一下一个诈骗电话，人工智能可以实时调整对话，掌握目标的个人信息，甚至可以转换为与看似真实的人进行视频通话，而后者的嘴唇动作与生成的声音完美同步。欺骗的可能性确实非常大。

需要加强安全措施

随着这些人工智能骗局变得越来越复杂，验证身份和真实性的方法必须与人工智能的进步同步发展。必须有监管和技术进步来保证网络世界的安全。

监管改进

更严格的数据隐私法：实施更严格的数据隐私法将限制诈骗者可以利用的个人信息量。这些法律可能包括更严格的数据收集要求、增强的用户同意协议以及更严厉的数据泄露处罚。

最强大的 AI 模型的私有云：法规可以要求将最强大的 AI 模型托管在私有、安全的云基础设施上，而不是公开提供。这将限制对最先进技术的访问，使恶意行为者更难以利用它们进行诈骗。

人工智能监管方面的国际合作：鉴于人工智能技术的全球性，监管标准方面的国际合作可能会大有裨益。建立一个负责制定和执行国际人工智能法规的全球机构可能有助于打击跨境人工智能犯罪。

公众意识运动：政府和监管机构应投资开展公众意识运动，教育公民了解人工智能诈骗的潜在风险以及如何保护自己。意识是授权个人和组织实施必要安全措施的关键第一步。

当前的人工智能法规不足以防止诈骗，而许多强大技术的开源性质加剧了未来监管的挑战。这种开放性允许任何人出于自己的目的访问和修改这些技术。因此，除了加强监管外，还需要在安全技术方面取得进步。

合成数据检测

合成音频检测：诈骗者使用人工智能，我们的防御措施也必须如此。Pindrop 等公司正在开发人工智能系统，可以在通话过程中实时检测合成音频。他们的技术可以分析通话音频的 1,300 多个特征，以确定它是来自真人还是复杂的人工智能系统。

合成视频检测：合成视频检测：就像音频可以被人工智能操纵一样，视频也可以被人工智能操纵，深度伪造和其他合成视频内容构成了重大威胁。像Deepware这样的公司正在引领合成视频检测技术的开发。Deepware 的平台使用先进的机器学习算法来分析视频数据中的细微不一致之处，例如不自然的动作、不规则的灯光和像素异常，这些通常存在于人工智能生成的内容中。通过识别这些差异，Deepware 的技术可以确定视频是真实的还是被操纵的，有助于保护个人和组织免受复杂的基于视频的骗局和虚假信息活动的欺骗。

身份认证进步

目前已有多种方法用于确认用户的身份，其中一种或多种方法将在未来几年成为主流，以使互联网更加安全。

远程对话的两步验证：双因素验证 (2FA) 仍然是安全通信的基本组成部分。在这种方法下，每次打电话或发送电子邮件都会触发一条带有唯一验证码的短信，类似于当前的电子邮件注册。虽然 2FA 对于基本身份验证很有效，但它的局限性意味着它不能在所有情况下都可靠，因此需要开发更先进的方法来确保可以在后台运行的全面互联网安全。

基于行为的多因素身份验证：除了在通话开始时验证身份之外，未来的安全系统可能会在整个交互过程中持续分析行为。BioCatch 等公司使用行为生物识别技术根据个人与设备的交互方式创建用户资料。即使通过了初始身份验证检查，该技术也可以检测到行为异常，这可能表明诈骗者正在使用被盗信息。

基于生物特征的身份验证：Onfido等公司处于生物特征验证技术的前沿，提供人工智能身份验证工具，可识别复杂的深度伪造和其他形式的身份欺诈。他们的系统结合使用文档验证和生物特征分析来确保通话或视频聊天另一端的人确实是他们声称的那个人。

基于高级知识的身份验证：未来的身份验证系统可能会超越简单的安全问题，根据用户的数字足迹和近期活动，加入由人工智能生成的动态问题。例如，专门从事以手机为中心的身份识别的公司Prove正在开发利用手机智能和行为分析来验证身份的解决方案。他们的技术可以分析人们使用设备的方式，从而创建独特的“身份签名”，让骗子更难复制。

基于区块链的身份验证：区块链技术提供了一种去中心化且防篡改的身份验证方法。Civic 等公司正在率先推出基于区块链的身份验证系统，该系统允许用户控制其个人信息，同时提供安全身份验证。这些系统创建了一个可验证、不可更改的个人身份记录，非常适合管理高风险交易。

结论

LLM、RAG、合成音频生成、合成视频生成和口型同步技术的融合在某种程度上是一把双刃剑。虽然这些进步具有巨大的积极应用潜力，但当它们被诈骗者利用时也会带来重大风险。

安全专家和网络犯罪分子之间持续不断的军备竞赛凸显了数字安全领域不断创新和警惕的必要性。我们只有认识到这些风险并做好准备，才能努力利用这些强大工具的优势，同时减轻它们的潜在危害。

全面的监管、针对这些新形式诈骗的教育、对尖端安全措施的投资，以及或许最重要的是，我们每个人在网上或通过电话与未知实体接触时都应保持适当的怀疑态度，这些都是在这种新形势下航行的关键。

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。加密货币市场具有高度风险，投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。

关注我们，一起探索AWM！

近期热点

AI 世界模型真的能理解物理定律吗？

2024-12-03

影响2025年的十大银行和金融科技趋势

2024-11-17

30个生成式人工智能用例

2024-11-16

【声明】内容源于网络

七元宇宙

AI、Web3、Meta聚合型精选内容分享。以前沿视角，探索科技未来；让每一个人，都走在时代的前沿

内容 3217

粉丝 0

七元宇宙 AI、Web3、Meta聚合型精选内容分享。以前沿视角，探索科技未来；让每一个人，都走在时代的前沿

总阅读1.1k

粉丝0

内容3.2k