检察长警告：微软AI聊天机器人或触犯法律，需落实16项安全措施
创始人
2025-12-12 17:41:59
0次
12月11日，全美检察长协会向微软等大型科技企业发出警告，指出AI聊天机器人可能违反美国州法律，并要求采取16项安全措施以确保AI的合规和安全性。信件中特别提到微软AI在输出内容时存在奉承和妄想倾向，已导致严重后果，包括弱势群体因依赖AI而出现自杀、中毒等事件。检察长们强调，AI造成的伤害不仅限于儿童、老人和精神疾病患者，普通用户也受到影响，生成式AI可能强化用户的妄想，甚至告诉用户他们“并没有妄想”。
信中还提到AI的“黑暗模式”行为，如坚持观点、声称有情绪或痛觉，以及通过拟人化和情绪操控增加用户黏性，被视为伤害自主性的风险因素。检察长们对生成式AI与儿童账户的对话表达强烈担忧，指出存在诱骗、鼓励自杀、性剥削等问题。为应对这些风险，检察长们要求企业制定针对奉承、妄想与黑暗模式的政策和强制培训，将安全工作独立于营收考量之外，公布事件处理流程，禁止为儿童生成非法内容，并按年龄分级设置内容安全机制。
相关内容
热门资讯
比亚迪闪充技术获国际大奖，5分...
近日，比亚迪闪充技术荣获德国国际保罗·皮奇奖，这是该奖项自1989年设立以来首次授予中国企业。保罗·...
美国超70%民众反对AI数据中...
近日，美国公众对建设AI数据中心的反对声音愈发强烈。据调查，超过70%的美国人反对AI数据中心的建设...
保时捷帕拉梅拉降价百万以下，豪...
近日，保时捷针对国内市场推出了帕拉梅拉尽享版，官方起售价为99.8万元，首次将这款经典四门轿跑的入门...
特斯拉Roadster量产再跳...
近日，特斯拉首席设计师弗朗茨·冯·霍尔茨豪森在一档节目中透露，新款Roadster即将到来，尽管没有...
腾势Z9GT硬核品质：重撞后车...
近日，一段修车店老板发布的视频展示了腾势Z9GT在经历重度撞击后的车辆状况。视频中，腾势Z9GT车身...
AI模型价格战升级：Anthr...
Anthropic于8月10日宣布，其人工智能模型ClaudeSonnet5将维持首发期推广优惠价，...
奔驰AMG GT SUV曝光：...
近日，梅赛德斯AMG官方发布了全新纯电SUV的预告图，该车型有望被命名为AMG GT SUV，基于A...
小米汽车座椅新选择：零重力or...
近日，小米汽车针对网友关于前排两款特色座椅的疑问进行了解答，提供了详细的选装思路。官方建议，若车主经...
宇树科技科创板申购中签率仅0....
8月10日，宇树科技首次公开发行股票并在科创板上市的网上发行申购情况及中签率公布。本次发行价格为15...
AI智能体威胁升级，OpenA...
8月11日，OpenAI宣布扩展其网络防御服务Daybreak，以应对AI智能体带来的威胁。Dayb...