-
吴世忠：《大模型发展、挑战与展望》
2026-04-16 12:17:23
作者：吴世忠（中国工程院院士，十四界全国政协委员）
当前，人工智能治理已成为全球高度关注的热门话题。就像任何新生事物一样，大模型驱动发展的同时也会带来一些挑战和影响。
一、大模型的技术发展和安全态势
生成式人工智能技术凭借强大的多语言理解和生成能力，已广泛应用于科学、教育、医疗、金融等行业，并向多模态、具身方向快速演进。可谓技术创新日新月异，应用推广势不可挡。尤其是近一年内，人工智能技术迭代更加迅速，大模型发展应用走深走实。一是模型思考，由快到慢。ChatGPT刚普及时，反应快但容易出错。随着思维链以及长上下文技术的发展，模型开始从勤学好答转变为深思熟虑，快回答正在转向慢推理。二是技术应用，由点到面。大模型从能说会道，发展到能说会动，再到能跑会跳。多语言、多模态带来多场景的广阔应用，并更加深入、彻底、全面的渗透改造经济、文化等人类社会的方方面面。三是中美差距，由大到小。一年来，DeepSeek、通义千问等国内系列模型，在算法上积极创新，已成为全球开源社区顶流，越来越多的国产模型正在向世界展示中国技术与中国方案。四是科学影响，由广到深。人工智能已经成为一门重要的基础学科，开启了科学研究的新范式。去年，诺贝尔物理学奖和化学奖都授予了人工智能领域的学者，这在科技发展史上都是空前的。
从应用推广上看，人工智能技术和社会的互动也表现出显著的特点。不断发展的技术创新激发了更多应用场景，而应用反馈也在不断驱动算法优化创新。治理约束则贯穿其中，保障技术创新与应用推广的健康可持续发展。
讲到大模型的发展，必然要提到安全。安全问题在这十年来不断深入、聚焦，目前看主要涉及四个方面：一是内在的模型安全风险。这主要是模型不可解释性、鲁棒性、幻觉干扰和不可控的风险。这是技术与生俱来的。二是新型的伦理挑战风险。尤其是对价值观、意识形态、个人隐私的保护、歧视偏见以及就业带来的影响。这是过去信息技术时代较少涉及的。三是衍生的应用安全风险。深度伪造、浅度伪造、欺诈等给社会治理、数据安全、文化安全带来严峻挑战。四是潜在的国家安全风险。主要是信息干扰、操纵以及智能武器、军事化方面的风险。
二、大模型的未来挑战和发展建议
展望未来，大模型的推广应用是大势所趋、人心所向。大模型治理依然挑战严峻、任重道远。从宏观上讲，治理面临的困难主要是以下四大方面。
一是技术本身的复杂性。模型不透明导致权责划分、伦理规范的制定十分困难。二是技术创新与监管面临两难。简单而言，就是“一管就死，一放就乱”。如何求得创新发展和安全监管的平衡是全球性的治理难题。三是商业利益和社会责任的平衡。在人工智能发展过程中，产业界特别是科技界发挥着原创、基础和关键性作用。OpenAI的管理层“宫斗”就是例证。商业利益和社会责任难以平衡是AI产业发展的难题。四是大国之间的信任缺失。因为文化传统、政治体制、价值观、道德观以及发展阶段的不同，大国之间在AI发展治理方面很难达成一致，给全球治理又新增了一个难题。
在这种情况下，全球将希望的目光投向走进世界舞台中心的中国，时代也给我们提供一个主动作为，体现担当的机会。我国经过十年谋划和布局，已经探索出一套体现中国智慧的治理路径，包括技术自立、应用引领、安全为本、国际合作和伦理规范。只要我们保持战略定力，坚持久久为功，继续突破核心技术的瓶颈、提升安全测评的能力、完善法治伦理的规范以及增强全球治理的主动，我们就一定能为世界奉献具有中国特色的AI治理方案。为此，我提出四点发展建议。
一是要加强创新驱动，以新型举国体制推动技术发展和应用赋能，重点在于突破关键技术点，打造核心产业链，形成垂域应用面。这需要我们充分发挥体制优势、组织优势和政策的优势，始终把发展作为第一要务。二是要加强安全研究，推进安全测评。确保大模型在关键行业、重要部门、重点单位和敏感部位的应用做到安全稳妥，有效防控安全风险。三是要加强伦理规范，以中华传统文化为根基，赓续大模型文明血脉。未来，全球模型掌握的知识将会趋同，唯一不同的就是文化底色。这是区分各国模型间根本的区别。将中国的伦理道德和传统文化融进大模型，不仅需要细化伦理准则，构建法规体系，还要强化技术保障，使伦理和法规能够落实落地。四是要落实全球倡议，加强国际合作。主要是细化实化人类命运共同体理念，推进国际治理框架的互认互信，包括推动线上线下国际合作与交流。世界人工智能大会就是很好的平台。昨天，我们正式公布将成立世界人工智能合作组织。这更是体现我国大国担当的务实举措，必将为人工智能的全球治理注入新的活力和智慧。
作者介绍：
吴世忠：中国工程院院士，研究员，国家保密科学技术委员会副主任，中国人民政治协商会议第十四届全国委员会委员、民族和宗教委员会委员。1987年，本科毕业于华东师范大学图书馆情报系，获学士学位；2002年，四川大学应用数学系博士研究生毕业，获工学博士学位。曾任中国信息安全产品测评认证中心主任、中国信息安全评测中心党委书记、国家保密局副局长、中国科学院信息工程研究所党委书记。吴世忠院士长期从事网络与信息安全领域的技术研究工作。主持起草了防火墙、应用网关安全技术要求以及信息技术安全性评估准则等7项国家标准，并主笔撰写了与信息安全战略与技术发展有关的多篇专题报告；著有《信息系统的互连与互通》《C3I系统的安全与保密》《关贸总协定：中国准备好了吗？》《首都信息化标准指南·信息安全与保密标准化体系》等专著五部和《应用密码学》《网络世界信息安全的真相》《密码学的理论和实践》《中文Windows2000的安全性》等译著五部；先后获得国家科技进步一等奖两项、二等奖一项，省部级科技奖多项。
邀请老师演讲、授课请致电：19821197419 阎老师[微信同号]
免责声明：以上内容（包括文字、图片、视频）为用户上传并发布，本平台仅提供信息存储服务。如涉及版权问题，请联系我们并提供版权证明，我们将立即删除！
手机:19821197419
地址:上海市闵行区莲花南路1951号
