9月26日，第三届未来与发展大会在北京隆重举行。中国未来研究会副理事长，中国科学院自然科学史研究所研究员，博士生导师刘益东，出席了第三届未来与发展大会并做《第三种未来观与新质生产力的崛起——AI大爆发带来的巨大挑战与机遇》的专题报告。

刘益东在20世纪90年代后期开始研究科技负面作用与科技重大风险，1999年正式提出“致毁知识”概念并以其为主要对象开启科技重大风险研究，对科技重大风险与科技风险做出明确区分，提出科技重大风险研究的六大必备要素，率先将科技重大风险作为专门领域进行研究，探索并初步完成包括理论、案例、政策、科技社团和项目评审等在内的比较完整的科技重大风险治理研究体系。

刘益东揭示出目前科技重大风险愈演愈烈，而人类安全防控措施和机制却存在诸多严重漏洞，人类面临前所未有的双重挑战和科技危机，势必引发新科技革命、新产业革命和新分配革命，对此进行深入系统研究，得出一系列重要的新结论、新观点。

AI已经开始超越人类。ChatGPT-o1已经达到了博士级智能，在某些生物分支等领域甚至超过了一流的科学家。

刘益东认为， AI过度发展的三大恶果：人类大规模失业，剥夺人类的工作和实现人生价值的权力，AGI不是工具，而是类人智能体、是新物种，认为AI引发第四次工业革命是错误的；大规模造假，剥夺人类的认知，深度伪造无处不在，真假难辨；大规模杀伤，剥夺人类的生命，AI特别是AGI军备竞赛，远比核军备竞赛、生物武器军备竞赛危险得多，AGI还整合提升生物、纳米、核科技等尖端科技进行军备竞赛，人类濒临险境、甚至濒临绝境。目前，AI在争议中爆发式发展，图灵测试、自主意识、自我进化等禁区门槛，被逐个突破，自我进化已出现苗头，前景极为严峻、凶险、紧迫。

科技风险愈演愈烈，人类安全防线却存在十大漏洞。认知失灵：拜技主义、科技重大风险研究尚且薄弱，科学传播陷阱、缺乏限时原则等。科技伦理、科技法律与安全监管存在严重漏洞。提高科技专家及相关人员的责任水平、自律水平和道德水平存在严重漏洞。确保相互摧毁不能确保自身安全，平衡战略存在严重漏洞。扬长难以避短：扬长避短机制存在严重漏洞。广义科林里奇困境：防漏补漏机制失灵。致毁知识不可逆增长，知识生产与增长的选择机制存在严重漏洞。西方科技发展模式存在着于生俱来且不断恶化的严重缺陷与转型困难。囚车剑魔四大困境：知错纠错机制存在严重漏洞。甄别风险与安全隐患的能力存在严重漏洞。

刘益东指出，在科技力量越来越强大的今天，科技发展的最高目标已经不是做出多少重大发现、获得多少诺贝尔科学奖，而是创建可持续创新、可持续安全的科技发展模式，确保人类安全和科技健康发展，继续造福社会。在即将到来的科技大转型中，我国完全有条件率先行动。

在世界上确立“合作比竞争重要、安全比财富重要、方向比速度重要、和平相处比独占鳌头重要”原则，“和为贵”不仅是中国文化传统的主张，更是高科技巨风险时代，不得不遵循的生存法则。

观念变革：安全第一。安全之于人类，犹如健康之于个人，安全高于创新，安全高于发展。底线思维。无需共识，确立安全优先法则，涉及人类安全，一票否决！（因为人类安全问题迫在眉睫）高科技正负效应不能抵消。一坏遮百好，一百个天使抵消不了一个魔鬼（核电站、核医学抵消不了核战争、核灾难）。发展高科技首先不是看其能够带来多少好处，而是看其带来的坏处人类能否承受、能否化解。“科技创新、风控先行，科学研究、伦理先行”原则。不走西方“先污染后治理、先创新后伦理”的老路、弯路。限时原则。要尽快化解危机，尽快解决人类安全问题，刹车需要提前量，否则无济于事。激励均衡，分配革命优先。兵马未动，粮草先行：新分配革命是AI等科技风险治理的先决条件。

一般认为新质生产力是创新起主导作用，摆脱传统经济增长方式、生产力发展路径，具有高科技、高效能、高质量特征，符合新发展理念的先进生产力质态。新质生产力的核心特征是基于新发展理念的创新主导的先进生产力。

结合党的二十大精神“安全是发展的前提，发展是安全的保障”，刘益东认为，可以表述为“安全的科学技术是第一生产力”。

新质生产力的“具有高科技、高效能、高质量特征”可补充为“具有高科技、高效能、高质量、低风险、低依赖度等特征”，可谓“三高、两低”。

低风险是指在科技、经济、社会、环境、未来发展等领域的低风险，低依赖度指对某种资源、技术或外部条件的依赖程度较低，这有助于降低不确定性和风险，提高系统的稳定性和可靠性。

安全之于人类，犹如健康之于个人，头等重要。

发展新质生产力不仅提升我国的生产力水平、促进国民经济发展，更有助于构建可持续安全与发展的新型经济形态，构建人类命运共同体，引领世界经济与社会的未来发展。

韩启德院士指出，既然科学存在方向和价值问题，那就提醒人们要重视人文的作用，因为人文是科学发展的方向盘和刹车器。在发展科学技术的同时，必须大力发展科学文化。科技是车，人文就是刹车和方向盘，科技离不开人文。

目前，AI大爆发，末日概率危机，对这一突发事件的应对，暴露出西方社会的短视、固执、傲慢、偏见、自私、贪婪、任性，也暴露了相关学术研究的薄弱。尖端科技在争议中快速发展，科技风险与伦理问题愈演愈烈；而人类安全防控措施存在十大严重漏洞和多重失效，许多防护措施和机制失灵。刹车失灵，前途未卜，人类面临前所未有的双重挑战，空前严峻和紧迫，人类进入高危社会！

科技危机、人类安全危机引发新科技革命、新产业革命、新分配革命。观念发生深刻变革，从乐观顺延的未来观、悲观末日的未来观，转变为转型图存、安全发展的第三种未来观。未来学发展新机遇。

按照目前人工智能模式发展下去必得是死路一条，人工智能不应是激动人心、惊心动魄的领域，人类承受不了AI巨大能量的释放，人工辅能模式才是长久之计，平平淡淡才是真。

底线安全的科技、人文社科、交叉科学、文创产业将成为科技与经济发展的重心，可吸引、容纳创造力与资本。

当务之急是恪守底线思维、安全优先，尽快实现从以提高智慧能力为目标的人工智能A模式向以提高辅助能力为目标的人工智能B模式（人工辅能模式）的转变，开创可持续安全与发展的新型科技体系，才是根本解决之道。