人工智能体发展的核心问题和理性态度

发布时间:2026-05-25     稿件来源:《群众·决策资讯》     作者:李志祥    

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统。2026年国务院政府工作报告提出,促进新一代智能终端和智能体加快推广。今年3月以来,龙虾迅速成为备受关注的科技热点。由奥地利程序员彼得·斯坦伯格研发的OpenClaw以及各大模型公司基于其开发的各类龙虾智能体,已成为科技领域争相体验的前沿产品,也引发两种截然不同的观点:支持者认为,养龙虾将重塑未来商业、工作与学习模式;担忧者则顾虑,其可能引发数字失控、全民失业等潜在风险。事实上,问题的关键不在于要不要养龙虾,而在于能否把握科学技术和人类社会的发展方向,引导以龙虾为代表的人工智能体朝着有益、安全、公平方向健康有序发展。

龙虾意味着人工智能体进入新发展阶段

如何利用龙虾技术赚钱、龙虾存在何种安全隐患、龙虾背后是否有资本推手,这些公众关注的热点问题都可归入龙虾技术的应用问题。在这些热点应用问题的背后,深藏着龙虾技术的本质问题,需要将龙虾与其它人工智能体做比较,正确理解龙虾的技术意义与社会价值。

第一个参照物是以ChatGPTDeepSeek以及豆包等为代表的生成式人工智能。生成式人工智能只具有逻辑推理功能,能够根据数据库和算法系统生成各种语言类产品;龙虾兼具逻辑推理和任务执行功能,能够借助众多技能库完成全部数字工作。第二个参照物是以工业机器人、智能驾驶以及医疗辅助机器人等为代表的智能机器人。智能机器人能够独立存在,但只能完成功能单一的专项工作;龙虾存在于电脑之中,却能完成所有类型的数字工作。在这个意义上,生成式人工智能是一个思路清晰的复杂大脑,智能机器人是一个简单大脑和简单双手的结合体,而龙虾则是一个复杂大脑和灵活双手的全面结合体。

随着龙虾的出现,各种基于龙虾的智能体也随之涌现,甚至还出现了与之竞争的骡子MuleRun),这意味着人工智能体已经进入全新发展阶段,其主角就是可以作为数字劳工的全能智能体。尤其值得注意的是,目前出现的由龙虾驱动和操作的机器人,可能开启数字智能技术与机器人技术的深度结合,人类或将由此迈入真正的通用人工智能时代。

人工智能体发展的核心问题是自主权分配

就本源而论,人工智能技术的核心在于自主能力,即能够像人类一样自主思考、自主决策和自主行动。无论这种自主能力如何由人类赋予、通过何种机制实现、与人类自主能力有多大差距,人工智能体都确定无疑地具有一定自主能力,即能够脱离人类直接操控并独立完成一定的演算、决策和行动任务。可以说,人工智能体是一种类似于人类主体的类主体

具有一定自主能力的人工智能体问世之后,既往的单主体世界就变成了双主体世界,人类是具有完全自主能力的主体,人工智能体是具有不完全自主能力的类主体。在双主体世界里,同样的自主活动既可由人类完成,也可由人工智能体完成,此时就需要做出明确的界定:该自主活动到底是由人类完成还是由人工智能体完成,抑或是二者协同完成。这就是人工智能体发展提出的自主权分配问题,即究竟应该如何在人类与人工智能体之间分配全部自主权利。

自主既是一种能力,更是一种权利,前者意味着主体是否具有自主能力,后者意味着主体是否行使自主能力,二者相互制约也相互促进。生成式人工智能可自主生成知识,智能机器人能够自主决策、自主行动,均属于局部智能能力,而龙虾技术实现了全方位全流程的完整自主能力。人工智能体具有的自主能力越强大,人类和人工智能体之间的自主权冲突就会越激烈,自主权分配问题就显得越重要。

自主权分配必须坚持以人为本原则

对于人类而言,一切科技产品的发明根本上都是为了减轻人类负担。人工智能体虽然不同于其他科技产品,具有前所未有的自主能力,但在本质上仍然是一种服务于人类的工具。因此,人类与人工智能体的自主权分配必须坚持以人为本原则。

坚持以人为本原则,就是要让人工智能体的发展真正造福人类。造福人类主要包含三个目标。一是促进每个人的自由发展。人类逐步从各类生产活动中退出,往往会伴随自身相关能力的弱化乃至退化,这就要求人类厘清何为核心属人能力,在向智能体让渡自主权限时,必须以不损害人类自身能力全面发展为根本前提。二是促进社会关系的有序发展。现代科技通过提升生产力而产生的巨大红利并不必然平等惠及每一位社会成员,这就要求人类分清什么是理想的社会正义,分配自主权必须以不降低现有的社会公正水平为前提。三是促进人类社会的繁荣发展。造福能力越强大的科技产品,危害人类的能力也越强大,这就要求人类分清什么是人类社会的真正福祉,转移自主权必须以不动摇人类的中心地位为前提。

从本质上看,以人为本原则既反对技术至上,又反对保守主义。技术至上者看到了现代科技在提高生产效率方面的积极作用,要求不顾一切地快速发展人工智能技术,但往往会忽视科技发展对于人类自身以及社会的伤害风险。保守主义者看到了现代科技在损害人类利益方面的消极作用,要求放弃一切有重大风险的现代科学技术,但往往会错失利用先进科技造福人类的良机。

发展人工智能体的双重准备

龙虾为代表的人工智能体是人工智能技术的最新发展成果,代表了凝聚现代科学技术的新质生产力。在这个意义上,我们必须坚持发展人工智能体,以科技进步造福人类。同时也要清醒看到,具有自主能力的人工智能体将对人类社会产生全面而深刻的影响,需要提前谋划、周密布局,做好系统性风险防范,避免技术无序演化。

从技术角度看,需要发展性能卓越、安全可靠、真正造福人类的人工智能体。一个符合以人为本原则的人工智能体必须具备两个特征。一个是高效性,即能够以最低的成本完成最多的任务。这是人工智能体的技术能力问题,包括能不能完成任务、能够完成哪些任务、能够以何种效率完成任务等,只有通过科学技术的更新迭代而不断完善。另一个是合规性,即人工智能体的活动必须符合基本的人类行为规范。这是人工智能体的规范能力问题,包括能不能遵守人类行为规范、能够遵守哪些行为规范、能够以何种方式遵守规范等,只有通过外在的伦理治理和内在的价值对齐而不断提升。

从社会角度看,需要发展既适应人工智能体发展也符合人类基本利益需求的社会配套体系。人工智能体是具备一定自主能力的高级智能工具,深度融入人类学习、工作与生活场景,深刻重塑传统生产生活方式。人类现有价值理念、制度体系和社会架构,形成并适配于过往单主体世界,可能难以适配人机共生的双主体世界。关于何为真正属人活动、如何共享科技红利、怎样坚守智能向善本色,传统认知与答案已渐失效。面对具备自主能力的人工智能体,人类必须与时俱进做出制度与价值调适,否则可能引发人类能力弱化和社会秩序失序等问题。

(作者系南京师范大学公共管理学院教授)

责任编辑:孙秋香 
【加入收藏】    【打印此文】     【关闭】
分享到:
无标题文档