今日，Anthropic首席科学家贾里德・卡普兰在接受《卫报》采访时警告，人类正站在一个与AI相关的重大分岔口。卡普兰认为，最迟到2030年，甚至可能在2027年，人类就必须决定是否让AI模型完全自行训练，并承担由此带来的“终极风险”。他指出，一旦触发所谓的“智能爆炸”，AI可能进化为通用人工智能，为人类带来巨大收益，也可能失控并最终支配人类。

卡普兰强调，是否允许AI自我训练，最终取决于对AI本质的判断。他提出了关键问题：“AI对人类有益吗？有帮助吗？它们会无害吗？它们了解人吗？它们会允许人们继续掌控自己的生活和世界吗？”卡普兰在就业问题上与Anthropic CEO达里奥・阿莫迪看法接近，认为AI在两到三年内就有能力完成大多数白领任务。尽管他对AI与人类目标保持一致仍抱有希望，但对让AI训练AI的前景高度警惕，并认为这是“风险极高”的决策。卡普兰称，一旦人类退出训练过程，就难以判断AI是否已经失控，也无法确认AI究竟在做什么。