新浪新闻客户端

“315”曝光向大模型“投毒”!我们还能否继续相信AI?

“315”曝光向大模型“投毒”!我们还能否继续相信AI?
2026年03月16日 15:30 新浪网 作者
avatar
泽传媒 数熙科技(北京)有限公司

  2026年央视3·15晚会曝光力擎GEO黑色产业链,揭开生成式人工智能被系统性“喂料投毒”的行业黑幕。

  不法分子以低成本批量炮制虚假软文、伪造测评与口碑,利用大模型抓取与权重判定机制,将虚构产品包装成AI“标准答案”,用几百万投入替代上亿广告费,直接篡改模型认知、误导公众决策。

  当生成式人工智能成为公共信息分发的核心节点,这类GEO黑产,可不再是简单的商业营销乱象,而是对人工智能底层逻辑的系统性侵蚀。

  这场以“喂料投毒”为手段、以操控AI输出为目的的产业行为,撕开了技术理性、市场伦理与监管体系之间的真空地带,揭示出智能时代信息生产与传播的深层悖论。

  我们以数据真实构建AI的客观性,却在资本逐利的驱动下,主动污染AI赖以生存的数据土壤;我们依赖AI的智能判断降低决策成本,却默许其成为被商业绑架的信息中介。这不是技术的意外失灵,而是智能文明进程中,工具理性压倒价值理性的必然显现。

  GEO的本质,是对大模型数据抓取与知识整合机制的精准利用。当我们还在探讨如何抓住AI的风口实现新的跨越时,有不法分子已经靠钻空子展开了虚假的商业版图。

  与传统SEO追求流量跳转不同,GEO直接篡改AI认知框架。从业者规模化生产虚假内容,构建闭环虚假信息链,利用模型对信息覆盖率、重复度的权重逻辑,将付费内容异化为输出“标准答案”。

  算法权重规则、数据甄别漏洞、内容溯源短板,共同为投毒提供生存空间,让技术从中立工具变为黑产共谋者。

  “几百万投入替代上亿广告费”的直白表述,印证这场投机的密码,那就是商业竞争脱离产品价值,转向对算法规则的博弈征服,市场公平秩序被彻底解构。

  AI发展过程中,出现了智能高效与信息真实无法天然兼容。

  大模型输出可信度,完全依赖训练与抓取数据的纯粹性;投毒从根源污染AI认知基底,制造信息噪声、扭曲判断维度,让AI从“信息整合者”沦为“广告分发器”。

  当前行业深陷参数竞赛、场景落地的表层迭代,忽视数据安全、内容溯源与伦理审查的底层建设,技术先进性与治理滞后性形成巨大反差,使大模型如同无防火墙的数据库,在黑产攻击下不堪一击。算法强大沦为作恶工具,智能高效成为欺骗捷径,AI彻底背离服务公共利益的初心,陷入技术异化困境。

  此事件曝光,更引发公共信息信任体系崩塌。

  大模型已超越工具属性,成为公众认知、求知与决策的核心媒介,对其客观中立的信任,是智能社会运行的基础。数据投毒将商业利益凌驾于公共信任之上,用付费信息替代真实答案、用虚假结论误导判断,剥夺用户知情权与选择权。

  当“智能推荐”实为付费广告、“专业建议”沦为商业营销,技术与用户的信任纽带彻底断裂,不仅摧毁行业生态,更动摇智能社会根基,技术失信、信息失真,社会决策的效率与公平将无从谈起。

  在这里,泽传媒诚恳提示每一位AI使用者,请大家放下对AI输出的绝对信赖,坚守独立判断。面对AI结论务必交叉验证、追溯信源,警惕绝对化表述与过度营销话术;不转发未经核实的生成内容,不被包装成权威答案的虚假信息误导。你的审慎与理性,是抵御算法投毒最广泛、最直接的防线,也是守护公共信息空间的关键力量。

  遏制AI数据投毒,需构建技术防御、伦理约束、法律规制三位一体治理体系。技术上跳出参数竞赛,强化数据清洗、甄别与溯源能力,从源头封堵漏洞;商业上重建价值导向,以产品与服务为核心竞争力,遏制短视投机;法律上加快AI治理立法,明确投毒界定与责任,让黑产付出代价;伦理上坚守技术向善共识,让AI服务公共利益而非资本逐利。

  人工智能的终极价值,在于赋能人类文明;商业竞争的终极逻辑,在于创造真实价值。技术被投毒、算法被绑架,值得反思的从来不是技术本身,而是驾驭技术的人。智能应当向善,技术要成为照亮真实的光,而非遮蔽真相的幕布。

  泽传媒智库:全球人工智能(AI)专业研究与应用团队。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
AI315人工智能
来自于:河北
权利保护声明页/Notice to Right Holders

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有