检察长警告：微软AI聊天机器人或触犯法律，需落实16项安全措施
创始人
2025-12-12 17:41:59
0次
12月11日，全美检察长协会向微软等大型科技企业发出警告，指出AI聊天机器人可能违反美国州法律，并要求采取16项安全措施以确保AI的合规和安全性。信件中特别提到微软AI在输出内容时存在奉承和妄想倾向，已导致严重后果，包括弱势群体因依赖AI而出现自杀、中毒等事件。检察长们强调，AI造成的伤害不仅限于儿童、老人和精神疾病患者，普通用户也受到影响，生成式AI可能强化用户的妄想，甚至告诉用户他们“并没有妄想”。
信中还提到AI的“黑暗模式”行为，如坚持观点、声称有情绪或痛觉，以及通过拟人化和情绪操控增加用户黏性，被视为伤害自主性的风险因素。检察长们对生成式AI与儿童账户的对话表达强烈担忧，指出存在诱骗、鼓励自杀、性剥削等问题。为应对这些风险，检察长们要求企业制定针对奉承、妄想与黑暗模式的政策和强制培训，将安全工作独立于营收考量之外，公布事件处理流程，禁止为儿童生成非法内容，并按年龄分级设置内容安全机制。
相关内容
热门资讯
专访资深政法记者刘海陵：笔锋铸...
刘海陵的新闻人生，是改革开放的生动缩影，是法治进步的忠实见证，更是新闻理想的永恒传承。世纪之交，香江...
38岁身家过亿房地产老总家中遭...
南京市江宁区一身家过亿的房地产老总刘某，在家中遭人杀害，事发16年后，这处“凶宅”于5月7日进行第二...
粤超第三轮球票今日14时开始预...
随着“五一”小长假结束2026年冠旭电子cleer·广东省城市足球超级联赛（粤超）21城全部亮相5月...
记者帮｜广州50万粉“捡瓶小狗...
昨日，羊城晚报“记者帮”报道《广州50万粉丝“捡瓶小狗”，疑被“毒狗团伙”盯上，目前只能被迫困在家中...
彩旗飘飘，锣鼓喧天！广州天河石...
农历三月廿三是传统的妈祖诞民俗节日，又叫天后诞，石牌人称娘妈诞。5月9日上午，广州市天河区石牌村开启...
【在希望的田野上】新技术新装备...
央视网消息（新闻联播）：农忙时节，各地因地制宜，广泛采用新技术、新装备、新方法节本增效，为丰产丰收打...
老挝官员：老中铁路不仅象征着两...
老挝官员：老中铁路不仅象征着两国友好关系，也为两国人民带来巨大红利
视频丨日本有识之士：高市政权种...
日本高市早苗内阁推动的设立“国家情报局”相关法案8日在日本参议院全体会议进入审议阶段。日本有识之士认...