➤“人类通过不断学习，培养能够指挥、管理和校正智能体的‘硅基领导力’，才能在比人更聪明的AI前保持判断力和想象力。”

➤人类必须保留最终判断权、监督权与干预权，确保AI始终处于人类控制之下

  文 |《瞭望》新闻周刊记者 乐艳娜

  2026年，人工智能（AI）迎来飞速发展阶段，AI不再只是被动执行指令的工具，正在“进化”为能够自主调用工具、闭环完成复杂任务的智能体。

  技术裂变带来巨大红利，新型风险也快速放大：AI显著降低了技术门槛，网络攻击呈现泛化趋势，国家关键信息基础设施面对前所未有的威胁；当智能体能够直接操控业务系统，攻击边界从外部网络深入组织内部，潜藏风险可能加倍放大。

  如何把握AI发展的历史机遇，守住安全红线，做到发展与安全双轮并重，关乎国家安全、全球治理、人类长远未来。作为网络安全公司，360集团深耕AI落地实践与网络安全领域，提出“以模治模”理念，“人类通过不断学习，培养能够指挥、管理和校正智能体的‘硅基领导力’，才能在比人更聪明的AI前保持判断力和想象力。”360集团创始人周鸿祎告诉记者。

  人类需要开拓“硅基领导力”

  《瞭望》：你对AI行业发展进行的预判，哪些正在得到验证？

  周鸿祎：我们对两方面的预判比较有前瞻性：一是智能体成为AI落地主角，智能体应用走进千行百业，深入生产和业务系统，行业竞争焦点从参数比拼转向落地能力比拼。二是推理算力需求爆发，人们使用智能体完成复杂行业任务或需求时，需要多次调用大模型进行推理，算力消耗巨大，推理算力使用规模、增速全面超越大模型训练所需算力。

  《瞭望》：360集团从年初就开始智能体实战练兵，成效如何？

  周鸿祎：我们全员用AI、训练智能体。我们最初没意识到AI是重构组织的契机，公司的工作流程和岗位定义仍沿用AI出现前的逻辑，个人业务处理效率或能因使用AI提高30%至50%，但组织整体工作效率没有显著提升。此外，早期一些尝试把Token消耗量当作使用活跃度的参考，浪费了很多算力。

  整体训练过程我们收获很多。全员通过实战练兵完成对AI的实操培训，并总结出一条重要经验：企业引入AI时，不应设想用AI处理所有业务，而应挑选适合用AI改造的业务试点。我们选了两个业务：一是安全业务，360安全防御系统每天会发现和抵御大量网络攻击，使用智能体可以帮助安全专家应对上述挑战；二是产品研发，使用我们打造的守规矩、守纪律、能保持确定性的智能体体系，一个10人小队用三周时间开发了过去100人团队需半年才能生产的产品，并实现了编码、测试、交付流程的全自动化。

  过去我们认为AI会淘汰程序员。实践后，我们发现程序员依然重要，其主要精力从写代码和做测试这类重复性工作中，转而从事两类新工作：一是给AI提要求；二是给AI的成果定标准。能转型的程序员不仅不会被淘汰，还会在与AI协作过程中成长为“超级个体”。

  从“超级个体”到“超级组织”，关键不是提升单点效率，而在于对岗位定位与业务流程进行系统性重构。通过压缩冗余环节、打造高效闭环，使AI深度嵌入全流程运作，人员仅承担指令下达与结果验收职能，释放AI对组织整体运行效率的提升效能。

在北京举办的第十四届互联网安全大会上，360 集团工作人员与机器人互动（2026 年 6 月摄） 受访者供图

  让安全的最后一道闸掌握在人类手中

  《瞭望》：当个人拥有多个智能体后，网络安全攻防形势会发生什么变化？

  周鸿祎：AI已重塑网络安全的游戏规则。过去漏洞很难被发现，因此攻击频率较低，攻防能勉强维持平衡。但现在智能体可以批量、自动化、低成本、快速发现漏洞，如果没有具备对等能力的智能体基础设施，信息系统将处处是漏洞、处处可攻击，面临更大威胁。

  现在，对编程一无所知的人在智能体帮助下也可以对信息系统发动攻击。黑客智能体可以批量自我复制，甚至相互“交流经验”。常规人力防御不足以应对这种情况。政府、企业、基础设施引入智能体后，由智能体操纵业务系统，有可能产生新的安全风险。

  发展要与安全双轮驱动。安全要面向未来，具有前瞻性，如果等事故发生后再做补救，这样的盾难以防御别人的矛。

  《瞭望》：怎么做才能让安全的最后一道闸掌握在人类手中？

  周鸿祎：智能体越聪明，越不可控、越具有不确定性，它会产生自己的“想法”，此时就需要“以模治模”，即搜集智能体的行为日志、推理日志，打造另一个安全大模型和安全智能体对此进行分析、判断，对它可能的失控行为预判。安全大模型和安全智能体会向人类报告上述预判，由人进行最终决策。人类必须保留最终判断权、监督权与干预权，确保AI始终处于人类控制之下。

  在开源大模型技术基础上融入安全治理的能力

  《瞭望》：在人工智能安全治理上，你认为需要强调的原则是什么？

  周鸿祎：面对AI可能引发的安全问题，一些美国AI巨头掌握先发优势，多次以安全为由，要求停止AI开发，这背后可能主要有两个原因：一是他们掌握了核心技术，不希望别人也掌握此类技术；二是中国开源人工智能的发展带来了技术普惠，有可能推动实现对美反超，这是他们不希望看到的。

  我认为开源是解决安全问题的最好手段。当技术掌握在少数人手中时，如果这部分人拒绝解决安全问题，会带来隐患。防范智能体带来的社会风险，不是把模型“锁”起来，而要强调以人为本、智能向善，安全与普惠并重。

  《瞭望》：在全球人工智能安全治理上，中国企业可以发挥什么样的作用？

  周鸿祎：中国已形成较为活跃的开源大模型生态，帮助企业、组织实现AI私有化部署、安装与使用，让大多数人享受到科技进步所带来的红利。在开源大模型技术基础上融入安全治理能力，这将提升我国的全球影响力。

  中国企业应积极向国际组织提交解决大模型和智能体安全的方案，参与制定国际标准，并不断提供新产品来解决安全问题。中国特别重视人工智能安全与治理问题，在这种理念的指引下，中国企业有望在全球人工智能安全治理上走在世界前列。□