1月7日,科技媒体BleepingComputer报道指出,谷歌搜索中的“AI摘要”功能存在“AI幻觉”现象,即编造不实信息,并可能对不同提问给出矛盾答案。为解决这一问题,谷歌正在招募工程师,以验证AI生成的答案并提升回答质量,重塑搜索体验。招聘信息显示,谷歌正在寻找“AI回答质量工程师”,加入搜索团队,专注于提升AI摘要的整体质量。
谷歌在招聘简介中提到,公司正在重新定义“搜索信息”的含义,需要解决复杂的工程问题,并在扩展基础设施的同时,持续为全球用户提供实用的体验。这一职位的发布,标志着谷歌首次公开承认“AI摘要”存在改进空间。近期,谷歌正为越来越多的搜索引擎用户展示“AI模式”和“AI摘要”,并在Discover信息流中为新闻加入AI摘要,甚至使用AI重写新闻标题。《卫报》曾指出,谷歌的AI摘要在健康相关问题上经常给出误导性甚至完全错误的答案,尽管谷歌一直在努力提升答案质量,但用户往往基于信任感完全认可谷歌展示的内容,因此提升空间仍然很大。
