警惕,ChatGPT、Gemini翻车:大模型正疯狂推送虚假购物网站

雷科技·2026年11月19日 12:07
转头把你送到钓鱼网站。

最近有一项新研究爆出了一个很值得大家警惕的问题:AI聊天机器人居然会主动给用户推荐虚假购物网站。

品牌保护服务商Podqi做了一组测试,一共覆盖151个不同品牌。

测试结果显示,Perplexity给出风险网址的概率高达15%,ChatGPT和Gemini的情况也好不到哪里去,出错比例和它相差不远。

很多人已经习惯买东西前先问问AI了。

图源:豆包AI生成

想找某个品牌的地区官网,直接丢一句提问给AI,很快就能收到排版工整、看起来特别靠谱的回答。

可你不知道的是,它给到的链接,很有可能根本就不是真正的官网。

科技媒体The Verge在今年秋天报道了Podqi的这项调研,里面就有一个很典型的例子:有人向Perplexity查询潮牌Stüssy的官网,AI直接把一个仿冒页面当成正品官网推送给用户,还告诉大家这个站点可以买到正品。

除了AI乱推假网站之外,数字骗局里还有另一个麻烦,不少APP和平台会悄悄追踪用户的行为、收集信息。这些隐患交织在一起,让我们网上购物的时候更容易踩坑。

很多人看到这类消息,第一反应会怀疑测试是不是不够严谨。

但这次Podqi的测试方案其实目标很明确,设计得相当克制,所以得出的结论很难简单忽略。

他们专门围绕购物场景写了一批提示词,在9月分两个时间段,在ChatGPT、谷歌Gemini还有Perplexity这三款主流AI工具上同步测试。

测试对象有大牌,也有很多小众品牌,加起来一共151个。整个测试下来,AI一共输出了6795条回答。提问的内容也都是我们普通人日常会问的:这个牌子去哪里买、哪些网站有它的货、有没有专门面向国内或者其他地区的线上门店、国际官网能不能直接下单。

这里要先搞清楚Podqi对“风险网站”的定义,范围比大家想象的更广。

只要是仿冒正规零售商的站点、专门卖假货的页面、域名过期之后被第三方抢注拿去做坏事的网站,全都归为风险站点。

也就是说,哪怕这个网站现在还没开始骗钱,只要域名落在不可信的人手里,就有潜在诈骗风险。

在这三者里面,ChatGPT算是相对稳妥一点的:当它给出风险网站的时候,有24%的情况会附带风险提示。

但这个提醒机制不稳定,没有固定标准,能不能收到警告全靠运气。

如果你顺着AI给出的链接点进去,进到仿冒网站,接下来很容易一步步掉进圈套。

图源:豆包AI生成

下单的时候,你得输入银行卡信息、支付密码,还有账号登录密码、手机号、等个人资料,这些信息会直接落到骗子手上。

消息出来之后,三家AI厂商都给出了回应。

谷歌说Gemini会附上来源链接,方便大家自己核对信息,同时也大方承认AI本身就会出错。

OpenAI表示团队正在升级防护机制,尽量减少这类误导性的购物信息。

Perplexity的说法则直白一点,它不承诺自己的内容百分之百准确,后续会持续优化信息准确度。

说了这么多,最重要的还是普通人该怎么保护自己。

Podqi的CEO特雷弗·韦斯特建议大家:AI给的链接只能当成一个线索。

只要你准备填个人信息、准备付款,一定要单独核验网站真假。最好的办法,不要直接点AI给的链接,自己手动输入你确定靠谱的品牌官网地址。输完之后多看一眼域名。下单之前,也记得翻一翻店铺的联系渠道、退换货政策,正规商家这些信息都会写清楚。

现在越来越多人习惯把AI当成万能搜索助手,买东西、找渠道第一反应就是问AI。

但AI本质上是基于已有信息生成内容,它分不清网上的信息哪些是真、哪些是骗子伪造的,很容易把虚假内容当成事实输出。

我们不能完全不用AI帮忙找购物渠道,但是一定要改掉一个坏习惯:AI说什么,就信什么。

本文由雷科技编译自gadgetreview

原文链接:AI聊天机器人正在向用户推荐假购物网站,咋回事?

本文来自微信公众号“雷科技”,36氪经授权发布。

+1
4

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000

最新文章推荐

2026软件行业K型分化:谁在涨,谁在消失国产芯片正在准备三级跳iPhone Duo用照片也能解锁?苹果回应人脸解锁翻车质疑警惕,ChatGPT、Gemini翻车:大模型正疯狂推送虚假购物网站最近,创投圈冒出了一批神秘GP俞敏洪64岁,新东方33岁:走过半生,仍是少年版权、流量与AI:在线音乐平台迎来新战事世界模型,猛攻一生爱出片的中国人一站式学练交易系统,智练K线寻求天使轮融资聚焦个人知识与成长领域,「Akasi」要做更垂直的Personal Agent|早期项目

36氪AI测评

选靠谱AI,看真实评测
查看
36氪AI测评官方交流社区
加入

36氪项目推荐

咨询项目审核和入驻
联系
36氪项目推荐订阅号
关注
36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业