AI“灵魂文档”泄露!Anthropic伦理边界曝光
创始人
2025-12-03 12:28:42
0

12月2日,科技媒体TheDecoder披露了一份名为“灵魂文档”的内部培训文件,该文件详细说明了Anthropic公司旗下Claude4.5Opus模型的性格、伦理和自我认知设定。文件中,Anthropic被描述为一个“处境奇特”的公司,既认识到可能在构建具有变革性和潜在危险的技术,又在不断推进技术发展。公司为Claude设定了清晰的价值观层级和不可逾越的“红线”,包括确保安全、遵循伦理、遵守指导方针,并为操作员和用户提供帮助。

文件中还提到,Claude被定义为“外部部署模型”,是Anthropic几乎所有收入的核心来源。Anthropic为Claude设定了明确的“红线”,包括不提供大规模杀伤性武器制造指南、不生成涉及未成年人性剥削的内容,以及不破坏监督机制。此外,文件指示Claude将操作员的指令视为来自“相对可信的雇主”,其优先级高于用户的请求。例如,若操作员设定模型只回答编程问题,即使用户询问其他话题,模型也应遵守该设定。

更引人注目的是,文件提到“Claude在某种意义上可能拥有功能性情感”,并指示模型不应“掩饰或压抑这些内部状态”。Anthropic强调需关注“Claude的福祉”,旨在培养其“心理稳定性”,让其在面对挑战或恶意用户时也能保持身份认同。

相关内容

热门资讯

总台记者观察丨南京大屠杀历史不... 今天是日本长崎市遭原子弹爆炸袭击81周年。1945年的8月9日,美国在日本长崎上空投下第二颗原子弹,...
体验式消费带热运动相机(高质量... 21.4%上半年,重点平台运动相机销售额增长21.4%。轻拨摇杆观察云台,翻转镜头开启自拍,双击屏幕...
鸿蒙智行7月销量破4.5万,累... 今日,博主@爱叨叨的Steven分享了鸿蒙智行“五界”车型的最新销量数据。数据显示,问界M9汽车以9...
从“看一看”到“带回去” ——... 石榴云/新疆日报记者 李嘉妮8月3日至7日,由乌兹别克斯坦官员、媒体人士组成的友好人士代表团先后奔赴...
农业农村领域紧抓整治形式主义为... “以前盖房审批,交材料要跑好几次,现在在手机上就能提交申请,材料传一次就行,省心。”“过去想找台大农...
【视频】一湖好水育鲜味,河源新... 8月8日至9日,第七届粤港澳大湾区“粤菜师傅”职业技能大赛粤菜产业文化交流活动在河源万绿湖码头广场火...
“广州游戏电竞第一刊”来了,背... 8月8日,《优悦生活》以全新面貌亮相。这本创刊于2008年、面向全国公开发行的正式期刊,将游戏电竞作...
凯迪拉克凯雷德IQ推超豪华定制... 今日,凯迪拉克宣布推出CuratedbyCadillac项目,将个性化定制服务应用于其纯电SUV凯雷...
Spotify新动作:AI歌手... 今日,Spotify宣布将从9月起推出“AI人格”标签,旨在帮助用户识别那些看似真人但实际由AI生成...
小鹏G9L全球旗舰SUV预售开... 8月11日,小鹏汽车宣布旗下新车型G9L正式开启预售,预售价为25.98万元。这款新车定位为“全球大...