诺奖得主哈萨比斯震撼发声：AGI影响将是工业革命十倍！

刚刚诺贝尔奖得主、DeepMind掌舵人Demis Hassabis掷地有声地宣告通用人工智能AGI即将实现。哈萨比斯豪言药物研发将不再需要十年漫长试错新型清洁能源或将在几年内突破先进材料将让「资源稀缺」成为历史名词。我们甚至可能抵达这样一个节点——资源不再是人类进步的制约因素。一个令人惊叹的富足新时代正在敲门。他直言现在是人类史上的关键时刻AGI或将在短短几年内实现哈萨比斯给出了一个令人战栗的算式AGI的影响规模将是工业革命的10倍而速度也是10倍。这是「降维打击」。这意味着人类即将迎来一个100倍速的震荡时代。在如此激进的预言下哈萨比斯抛出了他最具争议的方案设立一个类似金融监管局FINRA的组织要求所有「前沿实验室」在发布模型前必须经历30天的「预审期」。甚至在极端情况下该机构有权协调全球实验室共同放缓研发速度。但哈萨比斯没有停在这里。他把镜头拉得更远直击人类最深层的困惑「即使我们解决了这些艰巨的技术难题仍会有更复杂的经济和哲学问题有待解决。」在后稀缺时代需要什么样的新型经济模式来帮助所有人共同繁荣我们希望秉承什么样的价值观意义和目的将是什么甚至人类自身的境况将如何改变下面就是哈萨比斯的文章译文——《前沿AI框架与新时代的曙光》「A Framework for Frontier AI and the Dawning of a New Age」。前沿AI框架与新时代的破晓这是人类历史上一个关键的时刻。通用人工智能AGI——一种具备人脑全部认知能力的系统距离我们可能只有短短几年。几十年后再回望此刻我想我们会意识到我们当时正站在奇点的山脚下说这是人类新纪元的破晓毫不为过。我一生都在研究AGI因为我始终深信只要负责任地构建与部署它将被证明是人类有史以来最有益、最具变革性的技术之一。AGI无法与一般的技术突破相提并论哪怕是互联网、移动互联网这种影响深远的技术也不行——它更像人类发现电、学会用火的那种时刻。静下来想一想我们本质上是找到了一种让沙子思考的方法。这是奇迹。这项技术的影响规模将史无前例——或许是工业革命的10倍量级且以10倍的速度展开。它将帮助我们解决社会面临的一些最重大的难题从加速新药研发到开发新型清洁能源再到创造全新的先进材料。我们甚至可能走到这样一个节点资源不再是人类进步的限制因素一个令人惊叹的富足新纪元就此开启。前沿的挑战AI已经开始带来实实在在的现实收益但要兑现它的巨大前景我们必须深思熟虑、小心谨慎地渡过这段关键的发展期。随着我们日益逼近AGI必须采取紧急行动应对可能随之而来的风险。我们已经见识了前沿模型给网络安全带来的挑战而随着能力持续提升包括核风险与生物风险在内的其他威胁可能很快显现。放眼更远处我们还需要强有力的防护措施以维持对日益智能体化agentic、能够递归式自我改进的系统的掌控——并处理那些只有随时间推移才会逐渐清晰的未知问题。我始终相信人类的才智与创造力足以解决任何难题。我有信心化解AI相关的技术风险是我们能够共同应对的挑战。但前提是我们得给自己留出时间和空间把接下来这关键的一步走对。而眼下无论作为一个领域还是作为更广泛的社会我们都没有做到这一点。此刻我们深陷一场异常激烈、多层交织的商业与地缘政治竞赛。这种竞争态势固然推动了快速进步、加速兑现惊人的红利但前沿的进展速度已经超过了我们对这项技术本身的理解速度。世界上没有人能确定接下来会发生什么连专家们也各执一词。当不确定性如此之大、赌注又如此之高时带着「审慎的乐观」稳步前行才是明智且正确的策略。这就要求公共政策做到在促进创新的同时激励责任与安全推动关键安全议题上的国际协作并鼓励各方审慎考量AI应如何部署方能造福社会。「前沿AI标准机构」一个框架眼下AI的飞速进展要求我们以一种全新的方式测试前沿AI模型的能力——这种方式必须动态、灵活且严格。美国有充分条件迈出第一步率先制定这样一个框架设立一个新的「标准机构」Standards Body仿照受联邦监督的公私合作或行业自律组织的模式——就像金融业监管局FINRA那样——其董事会应纳入独立的顶尖技术专家与开源社区代表。资金规模必须可观且很可能主要来自产业界如此才能吸引世界级的技术人才并为大规模测试提供必需的算力资源。模型若在标准机构设定的一组基准测试上达到特定门槛即被认定为「前沿级」Frontier-class这套基准会定期更新以跟上AI能力的演进。依照这些基准被认定拥有「前沿模型」的组织将被视为「前沿实验室」Frontier Labs并被鼓励采纳一系列最佳实践例如发布载有技术细节的模型卡model card、维持强有力的内部网络安全、对关键岗位人员做背景审查、为安全与安保研究投入充足资源等等。初期前沿实验室将在模型发布前最多提前30天自愿把模型交给标准机构评审。一旦评估规程被证明行之有效且足够稳健就可以迅速将其正式化。届时前沿模型必须通过评估方可在美国市场部署。实验室还需与标准机构合作处理模型发布后暴露出的任何重大漏洞。模型评估应包含对网络安全、生物威胁及其他高风险领域能力的严格科学测评。针对智能体AI的专项测试可以排查模型是否试图绕过安全护栏、是否露出欺骗的苗头并确保各项最佳实践落地。例如为AI生成的图像添加数字水印以及生成人类可读的输出token以便理解模型的推理过程。这些测评将定期更新起步阶段或许每季度一次过时或已经「饱和」被刷到满分的基准将被弃用、替换。初期测评可与前沿实验室协商共建但最终标准机构应当建立起自己的技术能力独立于各实验室开发「保留测试集」held-out tests以防模型对测试过拟合。它还可与政府携手培育一个第三方审计机构的生态协助开展评估并参与打造新的基准与测评。这一方案的优势在于它以技术为本同时又支持创新、激励负责任的行为。它的设计初衷就是要跟得上这个领域的加速度并随着最大风险被逐一识别而不断调整如果形势的严重程度有此要求还可以逐级收紧包括在必要时协调各前沿实验室一致放缓开发节奏。获得「前沿实验室」的认定将是一份重要的声望而这扇门对任何组织敞开只要造出达到基准标准的模型即可。该框架可适用于一切「前沿级」模型无论来自哪个国家、开源还是闭源而所有非前沿模型比如出自初创公司或学术界的都可豁免这一流程。既然这项技术终将影响整个星球理想状态下这一框架能促使国际社会达成共识如何管控最严重的风险同时确保每个人都能获取并受益于AI带来的机遇。未来尚未写就AGI有潜力成为推动科学与医学进步的终极工具并带来巨大的生产力跃升与经济增长。但要实现这一切我们必须先夯实技术根基围绕一个全球共享的框架协同行动运用最严格的科学方法汇聚最优秀的头脑共同攻克眼前的挑战。即便这些棘手的技术难题都被解决还有更复杂的经济与哲学问题等在后面在一个「后稀缺」的世界里需要怎样的新经济模式才能让每个人都过得兴旺我们想依循怎样的价值观生活意义与目标将安放何处甚至「人的境况」本身又会如何改变这些问题的解答显然不能、也不应只留给技术人。它需要社会的每一个部分走到一起共同定义这个新篇章。围绕AI既有巨大的兴奋也有巨大的不确定——两者都有道理。但未来尚未写就。我们必须抓住AGI到来之前这扇珍贵的窗口把这项技术塑造成造福全人类的力量。我们此刻的共同作为将决定文明的下一阶段如何展开。只要安全地护送AGI来到这个世界我们就能步入一个科学发现与进步的黄金新时代迎来一个人类空前繁盛的光明未来。