人人玩人人干:人人玩人人干：共同参与新经济模式的崛起

周伯文：人工智能的三大趋势与10个关键技术问题

　　通用人工智能(AGI)作为人工智能领域的终极目标，吸引着学界和业界同行者不懈探索，并不断取得新突破。

　　人类对AGI的想象从未如此具体，但人工智能领域的前路仍然充满未知。

　　关于未来3至5年，对于人工智能发展趋势的框架性思考，可以简单地总结为为“三化”。

　　第一是智能技术体系化。人工智能是一个非常典型的先发展应用，后补充理论的一个学科，发展到现在这个阶段，需要更体系化地去追究智能的本质，更好地去完善这个体系。

　　第二是智能形态多元化。人工智能一定要产生不同的形态，和实体经济、社会发展、人民生活紧密结合，随着人工智能技术的迭代，它一定会出现智能形态多元化。形态多元化的核心原因，一个是场景丰富度的要求，另一个是因为技术不完备，人工智能未来四五年中还会处于一个技术待完备的过程，这时候就需要妥协，在应用中考虑新的形态。

　　第三是智能能力高阶化。行业往前发展的核心动力是智能能力必须不断进行高阶化演进。今天的人工智能已经让大家惊叹，但这仅仅是开始。高阶化离不开技术体系化，离不开要素的突破，离不开对形态的理解。否则，基于中阶过程去探讨人工智能的高阶化，就有可能走上错误的道路。

　　针对人工智能未来关键技术节点的判断，很多问题至今还没有确定的答案，但对它们的探索和解答至关重要。回顾科学历史，伟大的技术突破往往是从提出一个关键问题开始。我们期待携手 AI 领域的杰出研究者，探讨出高价值战略问题，并以之引领，推进人工智能的高质量发展。

　　围绕智能技术体系化、智能形态多元化、智能能力高阶化这三大趋势，有10个问题值得进一步探讨。

　　首先，伴随诺贝尔奖纷纷花落人工智能项目，以 AI 赋能创新科学范式被寄予激发人类社会生产力重大飞跃的特殊意义。而 AI for Science 研究，如何从促进研究的单点突破升维至科研全链条水平的本质飞升？如何从“工具的革命”，发展至足以引领全新科学范式发展的“革命性工具”？我们仍需在多模态统一表征方面持续钻研，打造能够推动科学突破的AI系统。

　　再如，在具身智能的研究范畴里，如何精准定义“大脑” 与“本体”之间的关系，已成为核心且亟待攻克的关键问题。

　　人类作为“智能体”，在本体能力维度，诸如力量、速度等方面，相较于众多动物存在明显劣势。然而，人类却凭借独特的工具创造能力、环境交互与学习的能力，成功突破了自身生理局限，达成诸多超越想象的成就。

　　因此，未来的具身智能研究应当深入探究大脑与本体间的最优关系，并据此制定资源投入的最佳策略。既避免“超级大脑-弱本体”的陷阱，也避免“高级本体-简单决策”的陷阱。从而推动具身智能技术取得实质性、突破性进展。

　　人工智能正以前所未有的速度发展，当前面临的核心挑战是：如何从被动的“弥补AI安全漏洞”(Make AI Safe)转向主动的“构建本质安全的AI”(Make Safe AI)？

　　近期，形式化AI取得较多进展，譬如华裔数学家陶哲轩的“Lean+AI=数学证明智能化”概念等，体现了通过数学严谨性确保系统行为可验证。形式化 AI 有巨大潜力，但同时也存在一定的问题：会否由于限制太强，使系统灵活度下降，从而出现为了完成任务而“绕过安全检查”，最终导致病变？自动形式化、形式化验证是确保 AI 100% 安全的路径吗？还有哪些可行的技术方案，比如Causal AI(因果人工智能)、Explainable AI(可解释人工智能)等？真正的AI安全需要的不是完美的规范，而是具备自我修正能力的动态安全机制。

　　如此种种，还有如何平衡智能发展质量与效率、如何平衡“数据合成”和“算法训练”的算力分配、如何促进软硬件协同创新、如何高效配置算力、如何构建更加本质的 AI 安全、如何以 AI 赋能科学范式的革命性高效创新、如何探索下一代模型架构等多个关键问题。

　　通用人工智能正处于爆发前夜。未来，AGI将深度重构社会生产逻辑，而能否平衡效率与伦理、创新与安全，取决于技术开发者、政策制定者与公众的共治智慧。对人类而言，AGI不仅是工具，更是文明演进的一面镜子：我们如何设计它，便是如何定义自己的未来。

　　作者：上海人工智能实验室主任、首席科学家周伯文