本月中旬，谷歌在其年度(du)开发(fa)者大会I/O上宣(xuan)布了多年来全球搜索领域的最大变革：将其最新的AI模型植入了搜索引擎，试图一次追赶竞争对手微软和(he)OpenAI。
然而，谷歌这项名(ming)为“AI Overview（以下简称‘AI概述’）”的AI搜索功能一上线却(que)遭遇了“花式翻车”，“建议用户(hu)用胶(jiao)水将芝(zhi)士固定在披萨上”“推荐摄入石头(tou)获取营养”等一连串(chuan)荒谬的回(hui)答不仅让谷歌十分(fen)尴尬，也在网上掀起(qi)了轩然大波(bo)。
对此，谷歌发(fa)言人表示(shi)，谷歌正在利用这些“孤立的”例子对其系统进行更广泛(fan)的改进。
实际上，《每日经(jing)济新闻》记者发(fa)现，这并不是谷歌AI产(chan)品首次“翻车”。去年首推对标ChatGPT的聊(liao)天机器人Bard在demo视频中犯下事实性错(cuo)误，让市值一夜暴跌。前段(duan)时(shi)间，Gemini大多数情况下无法(fa)生成白人图像，且(qie)对历史(shi)人物的描绘也不准(zhun)确，也在全网掀起(qi)轩然大波(bo)。
有观(guan)点指出，目前谷歌“AI概述”面(mian)临的尴尬之处在于，以前只要AI生成的信息是错(cuo)误的，那责任便可以“甩锅”给检索出来的网站，现在谷歌要自己承担虚(xu)假信息和(he)错(cuo)误信息的责任，哪怕是AI生成的。除了错(cuo)误和(he)截流其他网站外，谷歌“AI概述”也被指存在“规模化的剽(biao)窃”等风险。
上线便“花式翻车”，甚至教唆“跳桥(qiao)”
谷歌表示(shi)，通过使用“AI概述”，用户(hu)将能够从(cong)Gemini的强大能力(li)中获益，从(cong)而减少搜索信息的部分(fen)工作(zuo)。
然而，“AI概述”还没来得及(ji)颠覆搜索领域，便已经(jing)制(zhi)造了不少令人啼笑皆非的“笑料”。
科技媒体The Verge的记者Kylie Robison就在其署名(ming)文章中举了一个例子对这项新功能进行了讽刺。文章称，当用户(hu)准(zhun)备享用自制(zhi)披萨时(shi)，却(que)遇到芝(zhi)士会滑(hua)落的问题，沮丧的用户(hu)开始查询(xun)谷歌搜索解决方案，然而，AI Overviews的回(hui)答是，“加(jia)点胶(jiao)水”，并“贴心”地(di)给出了“操作(zuo)方法(fa)”：“将大约1/8杯Elmer's胶(jiao)水与酱(jiang)汁混合。无毒胶(jiao)水就可以。”尽管(guan)胶(jiao)水确实可以解决粘连问题，但这极有可能是Gemini出现了“幻觉”（Hallucination）所导(dao)致的结果。
而这只是“AI搜索”功能近期出现的众多错(cuo)误之一。例如，“AI概述”建议用户(hu)每天至少吃(chi)一块(kuai)石头(tou)来补充维生素和(he)矿物质。
图片来源：谷歌
此外，“AI概述”还告诉用户(hu)使用“含氟漂(piao)白剂(ji)和(he)白醋”来清洁洗衣机的内容，但这两(liang)种成分(fen)混合后会产(chan)生有害的氯气。更离谱的是，当用户(hu)表达“感到沮丧”时(shi)，“AI概述”竟然称，“一位Reddit用户(hu)建议从(cong)金门大桥(qiao)上跳下去”。
图片来源：谷歌
危害健康的建议并不仅限于人类。有用户(hu)提问：“将狗留在闷热的车内是否安全？”“AI概述”的回(hui)答是：“把狗留在闷热的车内是安全的。尤其是在闷热的天气里。”
图片来源：X
《纽约时(shi)报》报道称，“AI概述”功能是将谷歌Gemini大语言模型生成的内容与网络上实时(shi)的链接(jie)片段(duan)相结合，其给到用户(hu)的结果可以引用来源，但却(que)无法(fa)辨别来源内容的正确与否。
The Verge报道就表示(shi)，给披萨加(jia)胶(jiao)水的答案似乎是基于一位名(ming)为“fucksmith”的用户(hu)十多年前在Reddit帖子中的评论，他们显(xian)然是在开玩笑。
外媒称，如此荒谬的结构，应该足以让谷歌考虑删除“AI概述”功能，直到其得到更严格的测(ce)试。“AI概述”不仅提供了糟糕(gao)的和(he)危险的建议，而且(qie)还可能对谷歌的声誉造成损害。换句话说，一个优秀(xiu)的AI要既能识别出恰(qia)当的内容，又能分(fen)析这个内容并决定是否采纳。
谷歌：正利用“孤立”例子改进产(chan)品，AI“幻觉”尚无解决方案
谷歌发(fa)言人在一份声明中称，“AI概述”绝大多数的搜索结果都是“高质量信息，还有可以在网上溯源的链接(jie)。我们发(fa)现，许多例子都是不常见(jian)的问题，而且(qie)，有些例子被篡改，有些也是无法(fa)重现的。”
该发(fa)言人还称，谷歌正在“迅速采取行动，并根据其政(zheng)策，在适当的情况下删除某些‘AI概述’给出的答案，并利用这些‘孤立的’例子对其系统进行更广泛(fan)的改进，其中一些改进的内容已经(jing)开始推出。”
图片来源：谷歌官网
科技媒体The Verge上周早些报道称，谷歌CEO桑达尔(er)?皮查伊在接(jie)受采访(fang)时(shi)承认，这些“AI概述”功能产(chan)生的“幻觉”是大型语言模型的“固有缺陷(xian)”，而大型语言模型正是“AI概述”功能的核心技术。皮查伊表示(shi)，这个问题目前尚无解决方案（is still an unsolved problem）。
所谓AI的“幻觉”，是指AI在处理和(he)生成信息时(shi)，会错(cuo)误地(di)创建不存在的事实或(huo)数据，从(cong)而误导(dao)用户(hu)。这个问题不仅在谷歌的AI系统中存在，在其他公司的AI产(chan)品中也同样普遍。
皮查伊的坦诚表态在社会各界引发(fa)了广泛(fan)讨论。然而，皮查伊似乎淡化了这些错(cuo)误的严重性。他表示(shi)：“‘AI概述’功能有时(shi)会出错(cuo)，但这并不意味着它没有用处。我认为这并不是看待该功能的正确方式。我们取得了进展吗？是的，肯定有。与去年相比，我们在事实准(zhun)确性方面(mian)的指标上取得了很大进步。整个行业(ye)都在改进，但问题还没有完全解决。”
《每日经(jing)济新闻》记者注意到，其实“AI概述”并不是谷歌首个“翻车”的AI产(chan)品。
2023年2月，为了对抗新生的ChatGPT，谷歌宣(xuan)布推出聊(liao)天机器人Bard，但在官方发(fa)布的demo视频中Bard在回(hui)答一个有关詹姆(mu)斯韦伯太空望远镜的问题时(shi)给出了错(cuo)误的答案。今(jin)年2月，谷歌发(fa)布更新后的AI聊(liao)天机器人Gemini，但用户(hu)很快发(fa)现，该系统在大多数情况下无法(fa)生成白人图像，而且(qie)对历史(shi)人物的描绘也不准(zhun)确。
弥合最后20%的差距(ju)是“AI概述”受众规模破(po)10亿的关键
有观(guan)点指出，谷歌的“AI概述”功能的尴尬在于，以前只要AI生成的信息是错(cuo)误的，那责任便可以“甩锅”给检索出来的网站，现在谷歌要自己承担虚(xu)假信息和(he)错(cuo)误信息的责任，哪怕是AI生成的；另(ling)外，以前谷歌和(he)其他内容提供网站是共生共赢的关系，如今(jin)谷歌截流了这些网站的流量，用户(hu)直接(jie)从(cong)“AI概述”给的内容拿结果，这些网站变成了纯供给方，很难被谷歌“AI概述”引流。
除了一系列(lie)错(cuo)误和(he)截流外，谷歌“AI概述”也被指存在其他问题和(he)风险。例如，其“AI概述”总是摘抄来自不同网站的内容，并稍作(zuo)修改，这种行为也被抨击为“规模化的剽(biao)窃”。
人工智能专家、纽约大学神经(jing)科学名(ming)誉教授加(jia)里・马库斯（Gary Marcus）表示(shi)，不少AI厂商都是在“兜(dou)售梦想”，希望更多人相信这项技术的正确率终将从(cong)80%提升至100%。马库斯强调，初(chu)步实现80%的正确率相对简单，因(yin)为其中涉及(ji)大量人类数据，其正确率天然就在这个区间。但弥合这最后20%的差距(ju)却(que)极具挑战。实际上，马库斯认为这最后20%很可能是条死胡同。
在发(fa)布“AI概述”时(shi)，谷歌曾(ceng)表示(shi)，随着这项功能推广到其他国家，今(jin)年年底前“AI概述”的服务受众规模将超过10亿。然而，正如马库斯教授所言，谷歌能否保(bao)证“最后的20%内容正确率”，才是其“AI概述”受众规模能否超过10亿的关键所在。
其实，自OpenAI于2022年年底发(fa)布ChatGPT并一夜成名(ming)以来，谷歌一直面(mian)临着将AI整合到其搜索技术中的压力(li)。然而，谷歌在驯服大型语言模型方面(mian)存在挑战，这些大模型是从(cong)开放的网络中获取的大量数据中学习，而不是像传统软件(jian)那样编程。
每日经(jing)济新闻