电话响起时，塔里尼·帕德马纳布尼（Tarini Padmanabhuni）的祖父以为自己在和哥哥通话。电话另一端的声音声称他已被绑架，唯一的解救方式是支付赎金。他的祖父照做了，后来才得知哥哥当时身处别处，对这一切毫无察觉。原来，那个声音是深度伪造（deepfake），一种由人工智能生成的模仿声。
帕德马纳布尼谈及此事时说：“让我耿耿于怀的不是钱，而是他根本无法辨别真伪。”
那是大约两年前的事情。如今，她说，她创立的总部位于旧金山的公司DetectifAI旨在确保他人不会以同样的方式被欺骗。
这是一个规模庞大且日益严重的问题，市场也随之扩大。据美国联邦调查局（FBI）称，去年美国人因受人工智能驱动的诈骗损失了近9亿美元，比2024年增长了24%。60岁及以上人群的损失是50至59岁人群的两倍。
在深度伪造语音检测领域，竞争并不缺乏，包括Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI Content Safety以及Nuance（微软也拥有该公司）等企业。但帕德马纳布尼表示，目前的检测产品都在云端远程服务器上运行，因此手机制造商无法将其直接集成到设备中，这使得被针对的用户几乎没有任何防御手段。
DetectifAI并未像一些公司那样将大型云模型缩小以适应手机，而是从一开始就设计紧凑的人工智能模型，使其足够小巧，能够运行在智能手机操作系统内部。其目标是在通话、语音留言及其他音频中即时判断声音是否由人工智能生成，而音频数据无需离开设备。
DetectifAI首先向手机制造商销售，授权其软件工具，以便检测功能可以作为手机操作系统的内置功能随设备一同发布。帕德马纳布尼以AT&T在初代iPhone发布时的角色作类比：当时运营商的独家协议使其脱颖而出。她指出，首家搭载DetectifAI的手机制造商将在竞争中占据优势。
该产品的核心是DetectifAI的软件开发套件（SDK），这是一套可供其他公司集成到其产品中的代码包，也可通过现有渠道进行授权许可。帕德马纳布尼表示，次要的收入来源将是向企业和反欺诈公司授权该技术。
与此同时，据帕德马纳布尼透露，这家初创公司已获得早期收入，每月为印度的金融机构处理超过10万次通话。这些通话由负责债务催收和跟进贷款文件的人工智能语音代理发起，每次通话都配备深度伪造检测和说话人验证（确认来电者身份与其声称的一致）。出于保密协议的考虑，帕德马纳布尼拒绝透露客户名称。
Padmanabhuni 表示，她 12 岁开始从事机器学习工作，随后在印度 Manipal Institute of Technology 学习信息物理系统（将软件与实体机械连接的技术）。她表示，在国际学生工程竞赛 Formula Student 中，她成为其描述的印度首个无人驾驶赛车部门的 youngest team lead（最年轻的团队负责人）。
DetectifAI 迄今为止已从投资者 Josh Constine（前 TechCrunch 编辑）和 KM Growth 咨询公司 principal Manohar Kamath 处获得了一笔小额种子轮融资。该初创公司已被 TechCrunch 编辑团队筛选，参加其备受瞩目的 Startup Battlefield 竞赛，该赛事将于 10 月 13 日至 15 日在旧金山市中心举行的 TechCrunch Disrupt 期间进行。