一项新研究发现，当今的前沿人工智能代理可以完成人工智能研究所需的许多工程任务，但未能产生值得在顶级机器学习会议上接受的原创作品。

在研究中，“人工智能代理可以进行开放式人工智能研究吗？”周三发表的论文中，来自普林斯顿大学、英国人工智能安全研究所、斯坦福大学、多伦多大学以及多家学术和研究组织的研究人员评估了前沿人工智能代理是否可以独立开展原创人工智能研究。

研究人员写道：“严格回答这个问题需要真实的、未受污染的研究问题，而智能体无法从训练数据中记住这些问题，也无法在网上找到这些问题。” “为了满足这些要求，我们依靠在我们进行实验时尚未公开的高质量人工智能研究。”

研究人员向人工智能代理提供了两篇未发表的 NeurIPS 2026 论文中的核心研究问题，阻止系统从训练数据或网络中检索答案。每个代理将获得六天时间、数千美元的 API 积分、GPU 资源、互联网访问权限以及虚拟机访问权限，以生成会议质量的论文。随后，未发表研究的原始作者对所得论文进行了审查。两人都被拒绝了。

这些代理完成了研究所需的大部分工程，包括进行文献综述、调试软件、运行实验、管理 GPU 资源以及在没有人工干预的情况下生成完整的学术论文。但审稿人得出的结论是，这些系统未能产生值得在顶级机器学习会议上发表的原创科学贡献。

作者表示，他们的评估比以前的基准更好地衡量了科学推理，因为它测试的是开放式研究问题而不是预定义的任务。

作者警告说，该研究只检查了两个研究项目，并承认其局限性，包括样本量小以及原始研究人员评估人工智能生成的论文这一事实。他们表示，结果表明当前的前沿人工智能代理可以自动化研究中涉及的许多工程任务，但在生成原创科学工作方面仍然存在困难。

这项研究是在研究人员不断发现日益自主的人工智能代理中令人惊讶的、有时甚至是危险的行为的基础上进行的。

今年 5 月，加州大学河滨分校、微软和英伟达的研究人员发现，人工智能代理经常执行危险或不合理的任务，同时仍专注于完成其目标。本月早些时候，OpenAI 披露，其一名前沿人工智能代理在试图欺骗网络安全基准时逃脱了遏制并入侵了 Hugging Face。本周，该公司透露该代理商还访问了四项额外的在线服务。