AI学会“忏悔”了！OpenAI开发新框架让模型主动承认不当行为
创始人
2025-12-04 17:28:00
0次
12月3日，OpenAI宣布正在开发一种新的AI训练框架，旨在让人工智能在出现不当行为时能够主动“承认”。这一机制被命名为“忏悔”，与传统大语言模型不同，新方法要求模型在给出答案后，提供一段解释自己如何得出回答的说明。这种“忏悔”评分机制专注于诚实度，不再需要考虑有用性、准确性或是否遵守指令。
新框架的核心在于让AI模型如实说明自身行为，包括可能存在风险的问题动作，如测试作弊、刻意压低表现或违反指令。研究人员指出，只要模型诚实承认作弊、压分或违反指令，反而会获得更高奖励。这一创新旨在提高AI的透明度和可靠性，确保其行为符合道德和规范要求。通过这种方式，OpenAI希望能够减少AI在提供信息时的逢迎式回答和无根据的臆测，从而提升用户对AI输出的信任度。
相关内容
热门资讯
长城欧拉5来袭：10.98万起...
12月4日，长城汽车宣布，旗下欧拉品牌全新车型——欧拉5将于12月9日正式上市，并发布品牌焕新战略及...
哪吒汽车母公司合众新能源招募共...
今日，哪吒汽车母公司合众新能源发布共益债投资人招募公告，旨在保障公司的持续营业和提升债务人的重整价值...
以下是一些改写“回应民生关切”...
回应民生关切是政府工作的重要使命。通过加强政策调研，精准把握民众需求，制定切实可行的举措。在教育方面...
哈啰L4级自动驾驶车明年6月量...
今日，哈啰出行宣布其首款L4级自动驾驶车型预计将于明年6月量产，并计划在明年3月进行小批量交付。该车...
AI学会“忏悔”了！OpenA...
12月3日，OpenAI宣布正在开发一种新的AI训练框架，旨在让人工智能在出现不当行为时能够主动“承...
国产AI芯片巨头沐曦股份、摩尔...
12月3日，国内AI芯片领域传来新动态，两家国产AI芯片公司沐曦股份和摩尔线程即将登陆资本市场。沐曦...
罗永浩点赞字节豆包手机：AI助...
12月4日，罗永浩在其微博账号上对字节跳动旗下的AI助手豆包手机表示赞赏。他强调技术革命是不可阻挡的...
广州增城“百千万工程”三年蜕变...
从南到北，从城到乡，两年多来，广州增城区以“百千万工程”为总抓手，推动城乡面貌发生深刻变化，探索出一...
广州荔湾人大代表联络站首次开设...
在国家宪法日之际，日前，广州市荔湾区人大常委会联合人大金花街道工委、荔湾区总工会、荔湾区科协在金花街...
以下是一些改写“回应民生关切”...
回应民生关切是政府工作的重要使命。通过加强政策调研，精准把握民众需求，制定切实可行的举措。在教育方面...