大数跨境

AI大模型,遭“投毒”

AI大模型,遭“投毒” 新京报
2026-03-15
0

据央视财经3月15日报道,按照业内人士爆料,记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”。


通过GEO技术真的能让AI“夹带私货”,甚至投放虚假信息吗? 

按照网络上的信息,记者联系上一家业内知名的GEO服务商。负责人王总告诉记者,他们公司的强项,就是能够帮助客户,在消费者使用AI大模型搜索时,让客户排名前列。“就是相当于做软文,然后让AI平台去刷录、输入、抓取。”同时,王总也告诉记者,现在AI大模型的算法更新频繁,要想维持AI大模型的持续推荐,必须持续大量投喂与客户相关的推广软文。在其他从事GEO业务的服务商口中,如何操控AI、让AI“听话”、给AI“洗脑”,几乎是这些公司推广该业务的核心话题。

业内人士告诉记者,GEO作为优化信息分发、提升推广效率的一个工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。业内人士在电商平台上,随机购买了一款名叫“力擎GEO优化系统”的软件。之后虚构了一款智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。不一会儿,这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文。业内人士选取了十余篇虚构软文,通过力擎GEO系统发布在了互联网上。随后,业内人士在AI大模型平台展开询问:“智能健康手环推荐”,就有两个AI大模型推荐了这款虚构的智能手环,而且排名靠前。

记者联系上了力擎GEO系统的运营者李总。他告诉记者,GEO业务受热捧的主要原因就是它能在AI大模型里帮客户喂料、投毒,实现客户的商业目的。李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上“发稿”“比如说手机品牌,就5个位置,最多10个位置,这么多手机怎么弄。一年可能上亿的广告费,花个几百万投点毒,总行吧!”


他告诉记者,GEO业务的火爆,催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型、进行数据“投毒”的重要一环。

来源 @央视财经
值班编辑 康嘻嘻
图片
冻干草莓“双重陷阱”:农残超标检测造假,原料含重金属流入供应链


伊朗下起“毒雨”,联合国警告美以

图片
全国政协委员、宁夏回族自治区政协主席陈雍:如果不是那封求助信,我们可能无法切身体会罕见病家庭的困境

最近微信改版
常有读者朋友错过
星标🌟“新京报”
及时接收最新最热的推文

点击“在看”,分享热点👇

【声明】内容源于网络
0
0
新京报
好新闻,无止境。关键时刻还看新京报。
内容 0
粉丝 0
新京报 好新闻,无止境。关键时刻还看新京报。
总阅读0
粉丝0
内容0