【编者按】“当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？”在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上，习近平总书记提出人工智能发展带来的时代之问，迅速在国际社会引发热烈反响。本刊与江苏省委宣传部理论处共同策划约请相关领域专家，聚焦这四问阐发观点认识。
当机器开始思考，人类如何与之相处？
唐士其
人工智能正以前所未有的速度、规模和深度改变这个世界，当然包括人本身。之所以这么说，是因为我们一直坚信，逻辑思考是人区别于其他物种的根本特征，也是人作为万物之灵傲视众生的重要依据。然而，今天建立在大语言模型基础上的生成式人工智能，最大的优势正是逻辑思考。人工智能逻辑的严密程度，其所掌握的数据的广泛程度，哪怕在当下，也已超过了世界上最强的人脑。面对这个比自己更“聪明”的存在，人如何与之相处？人又该如何自处？
人类当然不可能选择服从人工智能的统治。我们仍然希望能够利用这一比人类更聪明的工具为人类造福。但既然它已经比人类更聪明，人又如何能够做到这一点？进一步说，人类要想不拱手让出世界支配者的位置，有可能吗？
要回答这个问题，首先需要对人工智能以及人本身进行全面的理解。首先应该澄清，虽然人工智能在逻辑思考方面的确已经超过人类，但从现在来看，它在思想的创造性方面还远不能与人相比。这里所谓的创造性，也可以称为灵感或直觉，是人类思想中对逻辑的跳跃，也是对逻辑的超越。这种一下子抓住事物根本的直觉或者灵感，中国人也称之为“见识”。重要的是，这种“见识”超乎语言，也无法通过语言表达。近代科学主义过分强调理性和逻辑，在根本上忽视了人类思想中超越理性和逻辑的这个部分。今天面对人工智能，我们有可能、也有必要重新认识人的这些非理性、非逻辑方面，并借此机会重新审视人之本质，因为这才是我们能够真正利用人工智能，并与之正确相处的基础，或者说“本钱”。
然而，多多少少有些矛盾的是，直觉或者灵感并不会在人脑中凭空产生，它们只能是大量学习和深入思考的结果。这似乎是人工智能给我们设下的一个陷阱。它装备了大量的知识可以供我们随时查找，又具有强大的思考能力可以随时回答我们提出的各种问题，但我们为了获得只有人类才有的直觉和灵感，还必须自己去进行那种表面看已经没有意义的学习和思考。这是人工智能时代教育者和学习者必须面对的一个根本挑战。
有了灵感和直觉，我们就可以把人工智能在思维和数据方面的特长发挥到极致，帮助我们进行思想上的创造。通过有效使用人工智能，很可能一项原本需要经年累月才能取得成果的研究工作，在几天甚至几个小时内就可以完成。当然，其前提是人能够跟上人工智能的步伐，能够引导它、又在它的引导下不断走向深入。这个过程，可以说是在人的引导下人工智能与人的一种互动关系。当然要让这种互动真正富有成果，人又必须有长时间的思考和知识的积累，有准确的判断力和鉴别能力。总之，可以预期在人工智能时代，人类的学习任务不会减轻，甚至在某些方面还可能加重。
除了灵感和直觉之外，道德、情感和审美也是当下的人工智能所缺乏的，因为这三者都是超越理性的人类心理现象。它们既是人格完善的重要渠道，也是完美人格的重要组成部分，而且只能在人与人的互动中生成而不可能由人工智能提供。随着人工智能发展，一般性脑力劳动的工作必定会被机器替代，由此解放出来的个人，以及每一个人由此解放出来的时间，正好去从事那些精神方面的创造性工作，产出更多真正有价值的精神产品。
比精神性生产更重要的是，道德、情感和审美不仅需要学习，而且更需要实践。人在道德上的提升、情感上的丰富和审美方面品位的形成，主要不取决于拥有多少这些方面的知识，而在于如何去体验与践行。马克思曾经设想，在共产主义社会，人的活动可能是“上午打猎，下午捕鱼，傍晚从事畜牧，晚饭后从事批判”。因为生产力的高度发达，劳动成为一种娱乐和人类丰富自身精神的方式。也许，人工智能的发展使这样的生活成为可能。大多数人只需要花费比较少的时间来从事体力和脑力的劳动，把更多的时间用来丰富和完善精神世界。
总的来说，当机器开始思考，人类仍然有事可做，也可以形成一种与人工智能良性互动的方式。当然，我们现在所说的灵感与直觉，以及道德、情感与审美，是否永远是人类专属的品质，是否人工智能在这些方面永远落后于人类，我更愿意让这个问题保持开放。毕竟人工智能是通过自主学习人类语言性的文明成果而获得智慧的，因此逻辑上说，人类能想到的，人工智能应该也能想到。如果我们把人类的一切心理和情感反应理解为一些化学反应和神经信号过程，那么人类能感受到的，人工智能应该也能感受到。就此而言，人工智能可以复制过去的整个人类文明，也可以在此基础上进行创造。除非我们确定，人的肉体性体验让人类思维与机器思维有所不同，或者人类精神上存在某种一直在发挥作用，但从来没有被人类理性所认识和理解的因素。
也可以说，我们的思想最终决定了人工智能的思想，人工智能就是人类智能的镜像，但它可能比我们想得更深更远、更彻底。因而我们在讨论如何与人工智能相处之前，首先必须要问的是作为人类我们如何自处。当下的世界，仍然存在控制、欺骗、掠夺、仇恨和战争。这样一种人与人的关系，不可能不投射到人工智能的思考中。从根本上讲，我们要与人工智能形成一种良好的关系，首先就要在人与人之间形成一种真正有人性的关系。在此之前，人与人工智能的关系肯定会相当复杂而且危险。
所以，我们恐怕不应该简单去设定人工智能的未来发展路径。最好的方式，是我们学好如何自处，然后学习与人工智能友好相处，让它成为我们的助手、伙伴，以及建设性的批评者。□
（作者系北京大学国际关系学院院长、教授）
当算法参与决策，安全如何保障？
曹建峰
“当算法参与决策，安全如何保障？”这一问看似技术之问，实为文明之问。在如今加快演化的人工智能时代，算法早已不是实验室里的数学游戏，而是深度嵌入经济和社会之运行的“隐形决策者”：它决定人们刷到什么资讯、贷款能否获批、简历会否被筛掉，甚至参与医疗诊断、司法辅助和城市治理。从一般的AI算法到通用智能甚至超级智能，算法决策早已无处不在，带来了前所未有的效率，也带来了前所未有的不确定性——它可能出差、跑偏、带来偏见和歧视、被滥用、欺骗人类甚至失控，其影响往往是重大的、规模性的，可能给成千上万的人带来影响。那么，人类如何放心地把部分决策权交给机器？
确保算法决策的透明可信、公平无歧视和安全可控，需要一套精准敏捷的治理机制。必须认识到，不同算法决策的风险量级千差万别，不能眉毛胡子一把抓，而应按照应用场景的风险高低采取分级分类治理——高风险场景严监管、高标准，低风险场景包容审慎、留足空间。在此基础上，至少需要在五个环节上系好“安全带”。
一是让算法“看得见”，以透明和可解释筑牢信任地基。人工智能算法往往是一个“黑箱”，其决策难以被解释或理解。用户不知道自己为何被这样对待，监管者也很难看清算法内部的运行逻辑。如果连“为什么”都无从知晓，谈何信任和救济？因此，算法透明和可解释至关重要。这并非要求企业公开源代码、披露商业秘密，而是要对AI生成的内容和来自AI系统的交互保持透明，以及必要时对算法决策的结果进行解释或说明。下一步，应当针对信贷、招聘、医疗等高风险场景，细化可解释性的分级要求——影响越大的决策，越要说清楚、讲明白。毫不夸张地说，透明度正在成为理解AI、信任AI、治理AI的关键。这不仅有助于解决算法歧视、决策偏差、AI欺骗等问题，而且可以为研究、评估和应对AI安全风险提供真实的观察视角和第一手数据。
二是让算法“立得正”，把价值对齐嵌入模型设计。算法没有天然的善恶，但设计算法的目标函数有价值取向。如果只以点击率、转化率为唯一目标，算法就可能投喂低俗内容、放大社会偏见；如果在设计之初就融入公平、安全、向善的价值约束，算法就能成为可信的助手。这就是国际上热议的“价值对齐”（Value Alignment）问题——确保AI系统的目的和行为与人类的目标、价值追求和伦理道德保持一致。“以人为本、向上向善”恰是价值对齐的中国表达。价值对齐需要工程化、标准化，成为AI训练研发的必要组成部分：在数据清洗、模型训练、安全测试各环节设置对齐要求，通过对齐训练将诚实、公平、不作恶等价值和伦理原则“焊”进系统底层，从而让模型具有判断是非和善恶的能力，而不是等出了问题再去“打补丁”。随着大模型能力的持续跃升，价值对齐日益成为AI安全治理的重要抓手，《人工智能安全治理框架》2.0版新增“价值观对齐”的理念，就是对这一趋势的回应。
三是让风险“防得早”，内外协同构建监测预警体系。算法系统的风险往往具有隐蔽性和累积性——小故障可能演化为大事故，局部偏差可能酿成系统性风险。安全治理不能总是“亡羊补牢”，必须“未雨绸缪”。《网络安全法》专门增设人工智能条款，要求加强风险监测评估和安全监管，迈出了重要一步。下一步可以借鉴安全生产和药品警戒的成熟经验，探索建立分级分类的重大AI事故报告与信息共享制度：一旦算法决策造成重大损害或出现严重失控迹象，提供者应当及时报告并处置，让每一次险情都成为整个行业的免疫记忆。同时必须承认，算法迭代以天计，外部监管难免鞭长莫及，风险防范更要依靠企业内部治理来补位：设立伦理委员会、明确安全负责人、开展内部审计和全生命周期风险管理，把安全责任内化为企业的组织能力。
四是让人类“管得住”，在高风险决策中坚持人类控制和“人在回路”。无论技术多么先进，有一条底线不能突破：事关生命、自由、重大权益的决策，最终裁量权必须留在人类手中，这是“确保人工智能始终处于人类控制之下”的应有之义。这就是国际上通行的“人在回路”（human-in-the-loop）和人类控制理念——算法可以辅助、可以建议、可以做决策，但应提供人类监督的机会，不能完全替代人的判断。再智能的系统也应给人留出复核和否决的空间。医生可以参考AI的诊断意见，但处方要由医生签字；法官可以借助类案推送，但裁判须由法官作出。“人在回路”不是给技术泼冷水，而是给社会上保险：它保留了纠错的可能、问责的对象和人的尊严。随着智能体（AI Agent）自主性不断增强，如何在自动化效率与人类控制之间划定边界，将是未来治理的重中之重。但无论如何，AI系统的应用绝不能将人类“顺理成章”地架空或边缘化，而应确保有意义的人类参与、监督和控制。
五是让伤害“能救济”，以责任制度倒逼安全投入。当算法决策造成歧视和伤害时，受害者能否获得救济、责任者是否付出代价，直接决定了安全激励是否到位。人工智能和算法系统本质上是投放市场的“产品”，任何时候都不应被视为具有或被赋予法律主体地位。因此，其开发者、提供者理应对AI产品缺陷造成的损害承担责任。为此，需要对既有的产品责任制度作出必要的革新，包括产品概念、生产者界定、缺陷、可赔偿损害、因果关系等方面。通过产品责任制度等侵权规则追究提供者责任，好处在于：受害者无需证明深奥的技术过错，只需证明AI算法存在缺陷以及缺陷和损害之间的因果关系；而企业为了避免赔偿，自然会加大安全测试和风控投入。责任不是发展的敌人，而是安全的保障——让“不安全”变得昂贵，“安全”才会成为企业的自觉选择。
总之，要让人工智能这匹“千里马”既跑得快又跑得稳，离不开安全治理的保驾护航。只有给人工智能系上“安全带”和“缰绳”，才能使其成为让人放心、把人放大的“可信助手”，更好地造福人类和人类社会。□
（作者系深圳大学法学院副教授、法律与科技研究院研究员）
当技术挑战伦理，治理如何跟上？
杜严勇
2026年7月17日，习近平总书记在世界人工智能大会上发表主旨讲话时强调：“人工智能技术发展越是一日千里，向上向善、造福人类的方向越要正确锚定，监管治理的尺度越要精准把握，防范失控的措施越要及时完善。”当务之急，是让人工智能治理跟上迅猛发展的技术进步，避免“文化滞后现象”，消解技术治理中的“科林格里奇困境”。实现这一目标，需要在以下三个方向努力。
第一，强化价值引领，坚持向上向善、造福人类
近年来，让人工智能向善已成为世界性共识，但如何在具体应用场景中实现向善的目标，仍然是颇为艰巨的问题。人们普遍担心，在巨大利益的驱动下，向善的目标会让位于经济利益的获取，导致人工智能向善成为“伦理漂洗”的空洞口号。而且，当前人工智能的核心技术主要掌握在大型科技企业而不是科研机构手中，而科技企业对利益的追逐动力更加显著。在此背景下，锚定人工智能向上向善、造福人类的方向就更为困难、更为紧迫。
当前人工智能发展的新特点，进一步凸显了人工智能向上向善的重要意义。例如，很多用户在与生成式人工智能互动过程中，都感受到人工智能对用户的主动迎合、积极讨好，为了取悦用户甚至刻意编造谎言。这种谄媚现象如果得不到有效的治理，会侵蚀用户的主体性与自主性，削弱用户的反思与批判能力，进一步加深对人工智能的心理依赖与盲目信任。锚定人工智能向上向善的方向，就是要通过伦理审查、算法审计等多种途径，规避人工智能产生刻意迎合、纵容偏见、罔顾事实等违规行为，使人工智能更好地服务于人的全面发展。
同时，人工智能治理是全人类的共同事业，“造福人类”是发展人工智能的终极目标。当前促进人工智能造福人类的一个重要着力点就是将其应用于解决全球性问题与挑战，比如气候变化、疾病防控、粮食安全等重大议题。切实锚定人工智能向上向善、造福人类的正确方向，人工智能才能实现长期可持续发展，真正成为增进人类福祉的强大推动力量。
第二，把握治理尺度，有效防范伦理风险
当前社会各界的普遍共识是要加强对人工智能的监管，但究竟应该怎么管，缺乏统一认识。如果监管过严，可能会扼杀创新活力，导致技术研发和产品应用的减缓甚至停滞，影响人工智能发挥应有的积极功能；如果监管缺位或者过于宽松，又会使得各类风险此起彼伏，导致用户利益受损甚至社会动荡。习近平总书记强调监管治理的尺度要精准把握，精准击中了人工智能治理的难点与痛点。
对人工智能精准治理，首先需要建立细致准确的分级分类体系。人工智能应用场景复杂多样，不同应用场景与领域的风险等级差别巨大，需要进行差异化治理。2026年3月，工业和信息化部等十部委联合印发《人工智能科技伦理审查与服务办法（试行）》，明确列出了需要开展科技伦理专家复核的人工智能科技活动清单，这些活动显然属于高风险场景，需要进行全生命周期的严格监管。对于低风险的应用场景，就应当给予企业较大的自主权与更宽松的试错空间。通过对不同风险层次的差异化监管，实现“管得住、用得好”的平衡。
在具体执行的过程中，“精准把握治理尺度”既需要以政府管理部门为主导的监管机构高超的管理水平，也离不开社会公众的广泛参与。对具体场景监管尺度的宽严程度，公众与用户的意见至关重要。当前社会公众对人工智能治理的参与颇为有限，需要通过国家政策的大力支持、技术平台的积极配合、社会组织的有序推动，切实提升社会公众在人工智能治理中的话语权与影响力。
第三，开展前瞻探索，实现技术与制度协同进化
随着新一代人工智能的快速迭代与广泛应用，技术漏洞可能迅速演变为普遍性风险甚至全球性挑战，必须打破先发展后治理的模式，从“事后补救”转向“主动治理”，使技术进步与制度完善齐头并进、相得益彰。
为此，我们需要进行前瞻性的理论研究与实践探索，重视治理措施的现实针对性与包容性、开放性。需要强调的是，关于人工智能治理的前瞻性研究需要紧密结合技术研发与应用的现状、趋势展开，而不是闭门造车、盲目超前。要在具体场景中对各种措施进行反复实验，充分暴露其不足之处，根据各种意见进行修改完善。在这个过程中，可以发挥各个层级人工智能伦理委员会的功能，保障人工智能治理的指导原则与实施细则能够做到“上情下达”与“下情上传”。
实现技术与制度的协同进化，还需要政府管理部门、科研机构、科技企业与社会公众等各类主体各司其职、协同共治，为实现对人工智能的有效、敏捷治理营造开放、包容、高效的环境。必须充分认识到，人工智能治理不可能毕其功于一役，而是伴随其发展与应用的整个过程。通过及时完善各类风险防范机制与举措，实现人工智能技术与治理制度的协同进化，是一项长期任务。□
（作者系同济大学人文学院教授、技术与未来研究院院长）
当鸿沟不断拉大，普惠如何实现？
蓝 江
“当鸿沟不断拉大，普惠如何实现？”习近平总书记这一问直接揭示出当下全球人工智能发展最紧迫、最棘手的问题。应当看到，人工智能在发展中打通了生产、消费与数据计算的全球供应链，日益将全球经济紧密联结成一张遍布各个领域的巨大网络。实现人工智能的普惠共享，就必须推动建立公平、统一、包容的全球治理标准，以人类命运共同体理念消解技术权力带来的分化与不公。
2026年初发生的一件事情，非常值得我们警惕。有网民发现，某外国公司开发的大模型疑似大规模封禁被识别为中国背景的个人及团队账号。为了达到这一目的，其底层技术架构、核心训练数据及高阶对齐策略高度保密，仅通过有限的API接口对外输出服务，形成不透明的算法黑箱。从这个案例可以看出，在繁荣的表象之下，算力基础设施和海量数据被少数平台企业所攫取，而强权国家以科技战、贸易战的名义封锁禁运芯片和算法，制造了贸易和科技发展的壁垒。与之对应的结果是，众多发展中国家和普通民众不得不在强权国家的大型科技公司的堡垒之外，深陷基础设施落后、数据匮乏、算法歧视等困境，滑向智能社会的边缘。一般来说，人工智能的发展，理应消除地理上的阻隔，以及国家之间的壁垒，让各国人民能够平等地享受技术带来的红利。但是，我们看到的是一个不忍直视的现实：在某些人工智能的鸿沟之下，技术越发达，各个国家之间以及不同群体、不同阶层之间的鸿沟愈加深邃。
从产业维度上看，人工智能技术的发展，已渗透到各种商品的生产、流通、消费之中，形成了全产业的链条。不过，全产业链在扩张的同时，对应的现实问题是，强权国家和大型公司牢牢卡住了技术的瓶颈，高端算力高度集中在他们手中，以英伟达、谷歌、亚马逊等为代表的大型公司已经拥有了超大规模训练数据，并在底层代码与核心算法上建立起森严的技术壁垒。应当警惕这类大型公司通过算法壁垒和技术专利，不断抬高智能技术的准入门槛，使数据、算法和应用场景沦为一种新封建式的采邑。
在民生维度上，原先在经济发展中存在的城乡之间、区域之间、不同阶层之间的鸿沟，正迅速升级为智能素养、智能应用的深层差距。而放眼全世界，发达国家和发展中国家之间的技术鸿沟愈发明显：当一些国家的科研团队在为千亿参数大模型迭代而大量投入时，不少非洲、东南亚发展中国家科研机构，连基础GPU集群都难以采购，当地中小企业只能租用海外第三方API，数据主权还完全不受自身掌控。而绝大多数发展中国家只是在表面上看似接入了人工智能应用的界面，实际上这些国家的民众只能被动地提供数据和消费，忍受着由于数据垄断带来的产业和消费的分流，以及由此带来的日益高涨的生活成本。
我们还应该看到，在智能鸿沟之外，人工智能还存在着广泛的技术风险。在当今的智能时代，代码漏洞、关键数据泄露、算法偏见、深度伪造和机器幻觉，以及智能技术的恶意滥用，已经构成了全球范围的风险。例如，基于深度伪造技术生成的虚假视频与音频，已多次被用于模仿一国政治人物发表煽动性言论，或伪装成跨国企业高管实施金融诈骗。这已经给一些国家的政治和经济稳定带来了巨大损失。这些潜在技术风险的应对和解决，也需要各国人民在共同的规则和安全层面上形成共识，达成普惠性的全球治理。
习近平总书记强调必须“强化风险意识，确保安全可控”，让人工智能成为人类的可信工具。要做到这一点，就需要我们在人工智能法规、数据规则、安全规范上与全世界各国进行协商，达成共识。《全球人工智能治理倡议》与《人工智能能力建设普惠计划》出台，为我们清晰勾勒出人工智能普惠治理的未来路径。
今天，全球政治、经济与文化的血脉已被智能技术深度结合在一起。人工智能普惠治理由此成为一个全新的产业和文化实践场域，正在为构建人类命运共同体注入新的内涵。科技进步的最终目标从来不是技术本身的无限扩张，而是人的解放与全面发展。人工智能普惠的本质，正是让技术摆脱资本与权力的异化，回归服务全人类的历史使命。我们必须坚定走全球统一共治之路，始终高擎人类命运共同体的旗帜，真正驾驭智能向善的力量，让人工智能技术的普惠治理覆盖到全球各个角落。□
（作者系南京大学哲学学院教授）
责任编辑：苏胜利
