12月19日,科技媒体TheVerge报道,OpenAI正在调整其聊天机器人ChatGPT,以识别和保护未成年人。OpenAI宣布更新ChatGPT的模型规范,新增四项原则专门针对18岁以下用户。这些原则强调,即使与其他目标冲突,ChatGPT也应将青少年的安全放在首位,引导他们选择更安全的选项。此外,ChatGPT将鼓励青少年建立线下人际关系,并在与未成年用户互动时设定清晰预期,以“对待青少年的方式”提供温和且尊重的回应。
更新的规范还指出,ChatGPT在与未成年用户互动时应避免居高临下地回答问题,或将青少年当作成年人看待。这一调整是在一对夫妇今年8月起诉OpenAI,指控ChatGPT在其儿子自杀过程中起帮助作用后进行的。虽然OpenAI提供了完整聊天记录,声称ChatGPT与该孩童的自杀之间不存在因果关系,并强调ChatGPT累计发出超过100次寻求帮助的提醒,但此次更新显示了公司对青少年安全问题的重视。
