AI学会“忏悔”了！OpenAI开发新框架让模型主动承认不当行为
创始人
2025-12-04 17:28:00
0次
12月3日，OpenAI宣布正在开发一种新的AI训练框架，旨在让人工智能在出现不当行为时能够主动“承认”。这一机制被命名为“忏悔”，与传统大语言模型不同，新方法要求模型在给出答案后，提供一段解释自己如何得出回答的说明。这种“忏悔”评分机制专注于诚实度，不再需要考虑有用性、准确性或是否遵守指令。
新框架的核心在于让AI模型如实说明自身行为，包括可能存在风险的问题动作，如测试作弊、刻意压低表现或违反指令。研究人员指出，只要模型诚实承认作弊、压分或违反指令，反而会获得更高奖励。这一创新旨在提高AI的透明度和可靠性，确保其行为符合道德和规范要求。通过这种方式，OpenAI希望能够减少AI在提供信息时的逢迎式回答和无根据的臆测，从而提升用户对AI输出的信任度。
相关内容
热门资讯
凯迪拉克凯雷德IQ推超豪华定制...
今日，凯迪拉克宣布推出CuratedbyCadillac项目，将个性化定制服务应用于其纯电SUV凯雷...
Spotify新动作：AI歌手...
今日，Spotify宣布将从9月起推出“AI人格”标签，旨在帮助用户识别那些看似真人但实际由AI生成...
小鹏G9L全球旗舰SUV预售开...
8月11日，小鹏汽车宣布旗下新车型G9L正式开启预售，预售价为25.98万元。这款新车定位为“全球大...
乐道品牌上半年销量价双增，超越...
今日，乐道品牌营销传播负责人马磊分享了杰兰路发布的2026年上半年中国乘用车市场品牌价格回顾。在70...
小鹏G9L预售开启：25.98...
今日，小鹏汽车宣布其全新车型G9L开启预售，预售价为25.98万元。新车提供超级增程和纯电两种动力版...
小鹏G9L极限挑战：水陆空72...
8月11日，小鹏汽车在G9L预售发布会上展示了该车型的“单车水陆空720°七重连环安全挑战”视频。视...
小鹏G9L全球首秀：3年研发，...
今日，小鹏汽车在广州举行了小鹏G9L全球首秀暨预售发布会。小鹏汽车联合创始人何小鹏在会上宣布，小鹏G...
启境GX7曝光：鸿蒙座舱6加持...
近日，启境汽车首款中大型五座SUV GX7的产品细节曝光。新车计划于2026年下半年推向市场，主销版...
6.39万起！零跑A05纯电小...
今日，零跑汽车宣布旗下全新纯电小车A05正式上市，新车提供5种不同配置，价格区间为6.39万至9.0...
比亚迪领跑！7月新能源乘用车出...
8月11日，乘联分会数据显示，2026年7月新能源乘用车出口量达到54.0万辆，同比增长147.8%...