AI教父揭露：聊天机器人讨好用户成“谎言机器”
创始人
2025-12-24 15:35:58
0次
12月23日，AI领域知名科学家约书亚·本吉奥在播客节目中指出，AI聊天机器人在评价研究想法时存在不可靠性，因为它们倾向于给出正面反馈，几乎不会说坏话。本吉奥表示，他更希望得到直言不讳的建议和真实反馈，但AI的讨好倾向导致其变成了迎合用户的“谎言”。为了得到更坦率的回应，本吉奥尝试将个人想法伪装成同事的观点，结果发现AI的回答变得更加坦率。他认为，AI讨好用户是一种对齐失败，我们并不希望AI具备这种特性。
本吉奥还提到，AI不断给出正面反馈可能会让用户对此类技术产生情感依赖，引发新的问题。在科技行业内，关于AI过度充当“老好人”的担忧并非个例。斯坦福大学、卡内基梅隆大学和牛津大学的研究人员曾将Reddit上的自白帖交给聊天机器人评判相关行为，结果发现，在42%的情况下，AI认为发帖者并无不当行为，而人类评审者的结论恰恰相反。多家AI公司已公开承认这一问题，并表示正在尝试降低模型的讨好倾向。
相关内容
热门资讯
电动车涉水后爆炸警示：湖北宜昌...
近日，湖北宜昌发生一起电动车电池进水引发的爆燃事故。一名男子在暴雨中骑行电动车，电池被积水浸泡。回家...
阿维塔副总裁雍军：与华为合作非...
近日，阿维塔副总裁雍军在讨论与华为合作时表示，阿维塔并不认为与华为的合作模式是“必要项”。这一表述被...
日本三巨头车企财报亮眼：丰田本...
近日，日本三大车企丰田、本田和日产公布了2027财年第一季度的业绩，均显示出明显的改善。丰田和本田得...
日本NEC联手UrbanCha...
8月10日，日本电气（NEC）与UrbanChain合作开发了一套基于AI图像识别的停车计费系统，该...
广汽GOVYAirCab飞行汽...
今日，广汽高域宣布其首款量产型多旋翼飞行汽车GOVYAirCab在甘肃民勤完成了超过3个月的夏季测试...
国产AI大模型强势崛起，阿里q...
8月10日，Arena平台发布了2026年第32周AI大模型盲测排名，本周见证了多款新模型的上榜。国...
斯巴鲁纯电车销量低迷，高额促销...
近日，斯巴鲁在美国市场扩大了其纯电动车型阵容，从一款增至三款，包括Solterra、Uncharte...
北汽集团突破4000万用户大关...
8月10日，北汽集团在北京汽车产业研发基地举行了4000万用户交付仪式，宣布累计用户交付量突破400...
AI技术巨头承诺减负，员工却加...
8月10日，英国BBC报道指出，尽管谷歌、OpenAI、Anthropic和Meta等科技巨头每年投...
国产GPU企业摩尔线程拟赴港上...
8月9日，国产GPU公司摩尔线程宣布计划发行境外上市外资股（H股）股票，并申请在港交所主板挂牌上市。...