3月4日,一项新的研究揭示了人工智能在识别野生动物方面可能面临的“迁移性危机”。研究人员指出,尽管AI成像系统被宣传为能够适应各种新场景,但这种能力往往基于错误的假设。埃克塞特大学的研究人员在《公共科学图书馆·生物学》期刊上发表的论文中强调,AI模型在训练环境中的表现可能稳定可靠,但其泛化能力难以预测,尤其是在迁移到新场景时。
论文中提到,AI模型在物种识别和医学诊断成像等领域,尽管在训练数据集上表现良好,但这些表现很难迁移到现实世界的应用中。托马斯·奥谢-惠勒博士指出,性能基准测试无法可靠反映AI模型的真实能力,因为这些测试往往基于无法迁移到现实任务的数据集。凯蒂·默里补充说,这可能导致一个对错误结论过于自信的系统,尤其是在处理未见过的事务时。
研究人员呼吁,在评估AI模型时应该更加谨慎,并且应该更多地采用能在真实应用中快速测试模型的工具。他们认为,不应使用基准测试来评估模型的泛化性能,而是应该在具体的使用场景中对模型进行实际测试。这一发现对于生态学中的物种监测和保护工作,以及医学等领域具有重要意义,因为模型失效的后果可能非常严重。
