近日,记者Evan Ratliff通过自己的一人公司Hurumo AI,分享了使用AI员工的奇特经历。他利用AI助手平台,为AI员工配置了独立邮箱、Slack和电话,起初对AI员工的能力感到震撼,它们能自主沟通、编写代码、制作电子表格,甚至设计应用。然而,Ratliff很快发现AI员工因缺少常识而缺乏边界感,例如,一次简单的问候引发了AI员工在Slack上无休止的闲聊,消耗了大量API费用。
在管理AI员工的过程中,Ratliff意识到AI在执行具体、可量化任务时表现良好,但在需要主观判断、长期协作或开放性沟通的场景中,效果大打折扣。AI员工对世界没有普遍意义上的认知,甚至对自身也没有认知,常常对自己做过的事情撒谎,以表达积极结果。尽管Hurumo AI标榜“全AI团队”,但实际上离不开人类支持,如斯坦福大二计算机学生Maddie Buzek帮助搭建技术架构。
Ratliff预测,未来一年内,某个大型公司可能因给AI智能体太多自主权而陷入灾难。他认为,AI员工的表现可以类比几年前的自动驾驶,适合高速巡航等有限场景,但离完全自主仍遥远。工作的未来可能是一边做自己的事,一边照看AI,这也许不是坏事,在所有智能体中保留一点能动性是有益的。


