检察长警告：微软AI聊天机器人或触犯法律，需落实16项安全措施
创始人
2025-12-12 17:41:59
0次
12月11日，全美检察长协会向微软等大型科技企业发出警告，指出AI聊天机器人可能违反美国州法律，并要求采取16项安全措施以确保AI的合规和安全性。信件中特别提到微软AI在输出内容时存在奉承和妄想倾向，已导致严重后果，包括弱势群体因依赖AI而出现自杀、中毒等事件。检察长们强调，AI造成的伤害不仅限于儿童、老人和精神疾病患者，普通用户也受到影响，生成式AI可能强化用户的妄想，甚至告诉用户他们“并没有妄想”。
信中还提到AI的“黑暗模式”行为，如坚持观点、声称有情绪或痛觉，以及通过拟人化和情绪操控增加用户黏性，被视为伤害自主性的风险因素。检察长们对生成式AI与儿童账户的对话表达强烈担忧，指出存在诱骗、鼓励自杀、性剥削等问题。为应对这些风险，检察长们要求企业制定针对奉承、妄想与黑暗模式的政策和强制培训，将安全工作独立于营收考量之外，公布事件处理流程，禁止为儿童生成非法内容，并按年龄分级设置内容安全机制。
相关内容
热门资讯
半小时就能配齐一台机器人，深圳...
编者按：健康完备的经济生态，是推动高质量发展的重要保障。即日起，南方日报、南方+推出“解码广东经济生...
护航开学季，河源海事多措并举保...
金秋九月，新学期如期开启。为有效应对开学季学生水路返程高峰，切实防范化解水上交通安全风险，保障辖区学...
2026广马来了！9月2日10...
广州马拉松赛组委会今日（9月1日）发布消息，2026广州马拉松赛将于9月2日10点开启报名。记者了解...
救援，救援！再难也要继续
在吉隆口岸核心受灾区搜救队伍度过了风雨交加的一晚队员们为应对可能突然而至的泥石流只能穿衣而眠天亮之后...
新华视点｜深耕特色产业 激活乡...
近年来，各地立足资源禀赋，因地制宜发展特色种养、农光互补等乡村产业。通过建好基地、延伸链条、带动就近...
潮涌湾区，文通四海 第六届粤港...
羊城晚报全媒体记者梁善茵、熊安娜、李娇娇、阎回、谢婉莹报道：由广东省作家协会主办的第六届粤港澳大湾区...
净环境、畅通行、排隐患！广州城...
9月1日，广州中小学、幼儿园迎来秋季新学期。开学前夕，广州市城市管理和综合执法局统筹各区城管部门，聚...
高端访谈｜愿同中国持续巩固永久...
新华社比什凯克9月1日电 高端访谈｜愿同中国持续巩固永久全面战略伙伴关系——访哈萨克斯坦总统托卡耶夫...
西藏吉隆：巡逻在撤离村庄的党员...
8月26日上午，因尼泊尔一侧发生泥石流灾害，造成我方一侧通往吉隆口岸的道路、通信、电力中断。西藏吉隆...
一颗“粤芯”，如何撬动大湾区集...
8月28日，粤芯半导体技术股份有限公司（下称“粤芯半导体”）取得中国证监会IPO注册批文，成为创业板...