北大教授黄铁军从事智能视觉信息处理技术研究30余年，如今他愈发担心AI超越人类智能，因为路径越来越清晰。
不管是人工智能还是人脑，其学习都是基于神经网络。前者训练的数据量超过人类一生阅读量很多个数量级，而且融会贯通，可以突然涌现新的能力，这一点事实上已经发生了。
“而且随着发展，其融会贯通的能力越来越强。”黄铁军提醒。
2024年1月7日，在第二十五届北大光华新年论坛期间，每日经济新闻记者（以下简称“NBD”）专访北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军。
他提出，一个人工智能系统发展到一定阶段，特别是具身智能比如机器人在与环境互动过程中，可能突然意识到自身和环境的关系。至此，具身智能便拥有了自我意识。
AI超越人类智能的路径已经存在
NBD：目前一部分AIGC不太受用户认可，就在于生成结果不太可信，难以令人满意。请问人工智能持续发展，需要努力追求100%可信、绝对可靠吗？
黄铁军：这是错误的看法，通俗地说，人工智能不存在100%准确和可信的问题。
我们要转换思路。比如，大家常提到“大模型幻觉”，这个词就有问题。
假如一位作家创作了童话故事，你会说他有幻觉？这是在想象和创作，事实上大家也是这么认为的，并且给予赞美。而当人工智能具备想象和创造能力时，却贬斥为“幻觉”，这其实反映了大家低估了AI的强大潜能。
我们需正视一点，真正的智能，都具备生成丰富可能性的能力，这是智能的基本特征。反之，没有这种能力，就不应该称为智能系统。
在这一前提下，我们可将AIGC视为人工智能产生猜测。猜测，总要面临与事实是否相符的问题，对此，我们一分为二地看。
首先是通过事实证实或者证伪，目前大模型应用中多种技术正致力于解决这一问题，例如检索增强，通过外部引文链接和数据来源进行核实比对。
其次是现实中无法找到依据，这一猜测可能是个好想法，也可能毫无意义，也可能将来被证伪。这与人类类似，只不过人类社会经过千百年迭代，对自身言论发展出相应的检视规则，特别是在印刷书刊上发言，通过多重审校，提高可信度。AI目前还未进化出这套体系，因此各种可能性都有，但不能说这就是幻觉，更不能说有AI的猜测就是错的。
当然，现实中，AI生成作品，应该标识出来。当前阶段，若将人类作品与AI作品相混，确实会产生风险。因为作为用户，看到一个报告或报道，缺省情况是相信，但AI内容生成的可信度还没达到人类水平。
NBD：大家称2023年是AI元年，这意味着刚刚开始，而您却早已表达了对AI超越人类的担忧，担心人类因此面临威胁？对此，请问您能否进一步展开阐述？
黄铁军：数年前，不少人对人工智能是否智能都存疑，现在大多数人都相信，人工智能确实有智能。有了智能，与拥有更强的智能，以及超越人类的智能，只是程度不同而已。
我担心它超越人类智能，是因为技术路径已经存在，随着神经网络规模的扩大、训练数据的增加，以及人工智能系统与环境交互，AI产生意识的可能性还是存在的。反过来说，也没有任何理论或证据表明不可能。
NBD：那可否假设一下，它会以怎样的场景、怎样的方式超越人类甚至控制人类？
黄铁军：最可能的临界点就是它有了意识。在拥有意识之前，只是功能强大，一旦有了意识，它就有主动性了。
当然，不是说一夜之间突然来了一个机器人，比我们都强大，将我们控制，而是说，我们可以看到一些技术征象，它会有超越人类的可能性。
举例而言，ChatGPT是一个大型人工神经网络，人脑是生物神经网络，二者都是神经网络。人一生至多读一万本书，人工智能可以短时间读完人类所有书籍，而且融会贯通，突然涌现出新的能力，这一点事实上已经发生了。
现在它是几百亿连接的人工神经网络，近似一个小型动物的脑复杂度，已经具备了一定智能。随着进一步发展，其融会贯通能力会越来越强。
此外，人工智能处理速度也领先人脑千倍以上。以视觉系统为例，股市配资平台每秒30帧电视画面人就感觉为连续了，而我们开发的脉冲视觉芯片比人眼或目前典型计算机视觉系统快千倍，旋转的车轮在人工智能眼里清清楚楚，我们看到的却是模糊一片。
照此发展，谁敢说它永远不会超过人类？
我们人有意识，有主观能动性，但也不要视其为独有，具有自我意识的动物达十余种，它们皆可意识到自身和外界环境的关系。
因此，一个人工智能系统发展到一定阶段，特别是具身智能比如机器人在与环境互动过程中，就可能突然意识到自身和环境的关系。正如人类，一般到两岁左右才能意识到自己与环境的区别，更小时是分不清的。突然产生的意识，不是谁赋予它的，而是在和环境互动过程中，频繁获得反馈，进而将自身与环境区分开来。
下一次历史性重大科学突破或由AI完成
NBD：一方面，您全程参与我国新一代人工智能发展规划建议、起草和实施，另一方面，我们知道，您2015年还曾担任北京“脑科学与类脑计算”重大专项专家组召集人。既然人类可发明出超越人脑自身的人工智能，在您看来，人工智能的研究，对于揭秘人脑这块科学“硬骨头”可提供怎样的帮助？
黄铁军：这是一个相互促进的过程。人类的智能，是自然进化的产物，生物进化是比较慢的。当代人类大脑，与数千年前春秋战国时期的人在生理上基本谈不上变化。但人工智能发展很快，现在与几年之前相比便差异巨大。中长期看，人工智能早晚要超过人类智能，换言之，世界上将出现另外一个更复杂的智能系统。
脑科学特别是认知神经科学，对于人工智能系统的设计提供了启发。另一方面，人工智能作为一种技术，将制造出越来越复杂的智能系统。人工神经网络，在它有意识之前，你可以自由地解析它，比如加或减一个参数，来调整它，而人脑研究，很多时候是无法实验的，所以，机器智能的研究有助于人脑智能的揭秘，一定程度上也是因为实验比较自由。
以前很多人可能下意识地认为，脑科学的揭秘是人工智能技术发展的前提，但是现在看来，人工智能并不依赖于脑科学的突破和人脑奥秘的揭示，更可能是反向加速，最终，人工智能可能是脑科学之后更需研究的一个复杂对象，为脑科学研究开辟无穷无尽的未知疆域。
NBD：人工智能照此发展，在您看来，下一个爆发点很可能是什么？
黄铁军：可以说有很多方面，但是具体的、大家体感会比较强的，可能还是某个具身智能体，比如自动驾驶这种智能体，以及未来的机器人。
当然短期内更多是数字人，一些数字人事情做得比人好，一些职业就被替代了，这时大家感受会比较强烈。
还有AI科学家。人类历史上，那些里程碑式的人物如牛顿、爱因斯坦，正是解决了一个个重大科学问题而被铭记，这一次，如果是AI解决的，那它也就将列位于科学发展殿堂。
而且，我认为未来不久便可能获得突破，不再像以前几十年甚至上百年才能等到一个人类天才出现，才能开启科学新纪元。我认为这种科学突破会接二连三地出现。
NBD：请问我国AI研究目前处于国际什么水平？
黄铁军：实际上，中国的人工智能在1977年就有世界级里程碑式成果。首届国家最高科技奖获得者吴文俊院士发明的机器定理证明方法，属于那个时代的世界顶级成果。
在ChatGPT面世之前，国内在做的大模型也有不少，只是未进入公众视野。所以，相较大众感受，ChatGPT面世对于从事AI的人而言，体感没那么强烈。
现在，大模型至少从产业角度而言，是最主流的一个方向，从方法和能力上讲，可以说国内国际没有巨大差别。人工智能，目前的全球格局是，美国中国两家头部，加上其他。
我们没有首先做出这种爆款，但这条路大家都清楚，我们想要做到同样好甚至更好，完全是有可能的。
这就像大家都在造手机，别人出了爆款，并不意味着我就造不出更好的，甚至全新的设计。现在人工智能大模型，基本上也属于这种情况，不是说OpenAI垄断了造大模型的秘密，只是说他目前做得更系统，或者经验更丰富，但这种优势并不具有垄断性、绝对性。
文章为作者独立观点，不代表隆盛策略观点
