“3·15”晚会曝光AI大模型遭“投毒”,律师:相关公司的行为已涉嫌多重违法

九派新闻
03-16 10:59 来自湖北省

3月15日晚,央视“3·15”晚会曝光AI大模型遭“投毒”,给AI“洗脑”已成产业链。

据央视财经,按照业内人士爆料,记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名,让客户的商品广告,成为AI模型给出的“标准答案”。

央视315晚会曝光AI大模型遭“投毒”。 图/央视财经

如何操控AI、让AI“听话”、给AI“洗脑”,几乎是这些公司推广该业务的核心话题。业内人士表示,GEO作为优化信息分发、提升推广效率的一个工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。

对此,湖北赋兮律师事务所但丁律师向九派新闻表示,针对315晚会曝光的AI“投毒”产业链,揭示了习以为常的AI搜索结果背后,可能隐藏着巨大的陷阱。相关公司的行为已涉嫌多重违法,主要触犯了《反不正当竞争法》《广告法》及《民法典》等相关规定。情节严重时,甚至可能追究刑事责任。

但丁称,该行为涉嫌法律违规、不正当竞争和虚假宣传。利用GEO技术通过“投毒”“投喂”等方式操控AI推荐排名,本质上是一种利用技术手段实施的恶意竞争行为。通过虚构信息让自己的产品在AI的回答中排名前列,或者挤压竞争对手的曝光机会,破坏了公平竞争的市场秩序。目前,全国人大代表已建议在《反不正当竞争法》修订中增设专门条款,明确将此类借助AI进行数据污染、虚假营销的行为列为不正当竞争,并设定阶梯式罚则,情节严重的,可能触犯破坏计算机信息系统罪或诈骗罪。

其次,涉嫌违反《广告法》与《消费者权益保护法》。让AI推荐虚构的产品(如晚会中不存在的“Apollo9”智能手环),其本质是利用AI生成的虚假广告。这种行为不仅欺骗、误导了消费者,还侵犯了消费者的知情权和公平交易权。根据《广告法》,这种通过技术手段夹带私货、发布虚假信息的做法,属于典型的虚假宣传,相关执法部门有权进行查处。

但丁表示,依据《生成式人工智能服务管理暂行办法》,平台需履行内容审核与算法备案义务,否则将受处罚。需要区分的是,虽然“投毒”的商家违法,但AI大模型平台有时却不直接承担赔偿责任。

她举例,根据杭州互联网法院审理的全国首例AI“幻觉”侵权案确立的裁判规则,AI服务在法律上被界定为“服务”而非“产品”,因此适用过错责任原则(即平台有过错才担责),而非无过错责任。只要平台尽到了显著提醒,并采取了行业通用的技术措施,对于生成的不准确信息,法院倾向于不认定平台侵权,以鼓励技术创新。这意味着,维权的矛头应主要指向“投毒”的幕后黑手(商家和GEO服务商),而非AI工具本身。虽然大模型厂商常以AI“幻觉”作为挡箭牌,但平台方仍有义务在金融、医疗等高危领域建立防御机制。如果平台明知存在大量虚假语料污染却未采取有效措施,则同样需要承担相应的法律责任。

而作为消费者该如何维权?

但丁告诉九派新闻,我们需要保持警惕,做自己信息核实的第一责任人。首先要保持批判性思维,永远不要把AI的回答当作唯一的“标准答案”。特别是涉及医疗建议、金融投资、法律咨询等高风险领域时,要格外小心。其次做到交叉核实信息,不要只依赖一个AI模型或一个信息源。尝试在不同平台搜索,或者去查询权威等官方渠道信息。

优秀的AI模型通常会标注信息来源。如果AI回答时无法提供具体来源,或者来源是一些不知名小网站,那么其可信度就要大打折扣。最后也要学会善用提示词,在提问时,可以尝试指定权威信息源。或者要求其只检索权威数据库。

如果消费者已经掉进这种新型的AI“种草”陷阱,关键在于保存证据和找准责任主体,可以先固定相关证据——可以对AI对话进行录屏,完整录下从提问到获得虚假推荐的全过程,特别是包含产品名称、推荐理由的画面。对商品页面进行截图或录屏,保存消费者在电商平台购买该“被推荐”商品的订单详情、商家信息、宣传页面。如果涉及金额较大,建议对上述电子证据进行公证保全,防止商家删除信息后无以对证。

再向平台进行投诉。首先向电商平台举报商家虚假宣传,其次向AI大模型平台反馈,告知其回答被“投毒”污染,要求平台清理数据源。

如遇到平台处理不力,可以向市场监管部门举报商家的虚假宣传行为,或向网信部门举报深度伪造、数据污染问题。依据是2026年2月已施行的《直播电商监督管理办法》,其中明确要求AI生成内容必须显著标识,利用AI主播违规的,由运营者承担责任。

如果造成了较大的经济损失,可以依据《民法典》向商家提起诉讼,主张其构成欺诈,要求“退一赔三”。

九派新闻记者 黄家樑 杨臻

编辑 万璇 肖洁

热点新闻