人类最前沿的AI研究 走错了方向？

来源：量子号

近年来，人工智能技术取得了惊人的进步，并在多个领域展现出强大的潜力。然而，人工智能研究的真正目标——通用人工智能（即具备类人认知能力的智能系统），仍然是一个充满争议的话题。随着公众对人工智能发展抱有极高的期待，研究人员也对当前的研究方向提出了质疑。

那么，我们是否正在朝着正确的方向迈进？人工智能研究的现状究竟如何？据 Gizmodo 的报道，最近，一个由数百名人工智能研究人员组成的小组的研究结果表明，目前人类在追求通用人工智能的路上，走错了方向，到底怎么回事？

一个由数百名人工智能研究人员组成的小组的研究结果表明，目前该领域正在以错误的方式追求通用人工智能。

这一见解是在由美国人工智能促进协会组织的 2025 年“人工智能研究未来”总统小组会议上披露的。这份冗长的报告由 24 名人工智能研究人员共同编写，他们的专业知识涵盖人工智能基础设施现状和人工智能的社会影响等多个方面。

该报告的每个部分都包含一个主要结论，并设有一个“社区意见”部分，调查受访者对该部分的看法。

人工智能认知与现实的差距

“人工智能认知与现实”部分由麻省理工学院计算机科学家罗德尼·布鲁克斯主持，引用了 Gartner 技术炒作周期（Hype Cycle）模型，该模型描述了技术炒作的五个阶段。报告指出，在 2024 年 11 月，Gartner 估计“生成式人工智能的炒作刚刚达到顶峰，正处于下降阶段。”

在“社区意见”调查中，79% 的受访者认为，公众对人工智能能力的认知与人工智能研究和发展的现实不符。而 90% 的人表示，这种不匹配阻碍了人工智能研究——其中 74% 的人认为“人工智能研究的方向是由炒作驱动的”。

“我之所以引用 Gartner 的炒作周期模型，是因为该模型多年来被广泛使用，且适用于多个领域的炒作和随之而来的失望，”布鲁克斯在一封电子邮件中说，“因此，这一模型的存在及其在多个领域的准确性，告诉我们应谨慎对待当前人工智能发展中的炒作。”

“我认为，公众对人工智能的大量讨论都过于相信炒作的准确性，”他补充道。

现有方法不足以实现通用人工智能

通用人工智能（AGI）指的是具有人类级别智能的机器——即能够像人类一样理解信息并从中学习的假想智能。通用人工智能是该领域的“圣杯”，对自动化和效率的影响遍及多个行业和学科。例如，任何你不想花时间做的琐碎任务，从规划旅行到报税，通用人工智能都可以帮助减轻负担。此外，通用人工智能还可能促进交通、教育和技术等领域的进步。

然而，调查结果显示，绝大多数研究人员认为当前的方法不足以实现通用人工智能。475 名受访者中，76% 认为仅靠扩大现有人工智能方法的规模，并不足以产生通用人工智能。

“总体而言，这些回应表明了一种谨慎而又向前迈进的方法：人工智能研究人员优先考虑安全、道德治理、利益共享和渐进式创新，主张协作和负责任的发展，而不是竞相发展通用人工智能，”报告写道。

尽管炒作扭曲了人工智能研究的真实状态，而且当前的方法并没有让研究人员走上通用人工智能的最佳道路，但这项技术已经取得了突飞猛进的发展。

人工智能研究的进展与挑战

“如果是在五年前，我们几乎不会有这样的讨论——当时人工智能主要用于容错率较高的应用（如产品推荐），或知识领域受到严格限制的应用（例如对科学图像进行分类），”弗吉尼亚大学计算机科学家、该报告“事实性和可信度”部分的负责人亨利·考茨在电子邮件中解释道。“然而，在历史尺度上相对突然的时间内，通用人工智能开始发挥作用，并通过 ChatGPT 这样的聊天机器人进入公众视野。”

但是，人工智能的事实性问题仍“远未解决”。报告指出，在 2024 年的一项基准测试中，即便是最先进的大型语言模型，其正确回答率也仅约为 50%。不过，新的训练方法可以提高这些模型的稳健性，而组织人工智能的新方法也有助于进一步提高它们的性能。

“我相信，提高人工智能可信度的下一阶段，将是用协作型人工智能代理团队取代单一人工智能代理，让它们不断互相事实核查，以确保彼此的诚实，”考茨补充道。“大多数公众以及科学界（包括人工智能研究人员群体）都低估了当今最先进人工智能系统的质量——人们对人工智能的认知往往比技术发展落后一两年。”

人工智能未来的方向

不同的人工智能应用场景处于不同的炒作阶段，但在人工智能领域的喧嚣声中——无论是来自私营企业、政府官员，甚至是我们自己的家庭成员——这份报告提供了一种清醒的提醒：人工智能研究人员正在对其领域进行深思熟虑的审视。从人工智能系统的构建方式到它们的应用方式，都还有改进和创新的空间。

既然我们不会回到没有人工智能的时代，那么唯一的方向就是向前。