本文围绕博鳌亚洲论坛2025年年会上AI元素成为焦点展开，阐述了AI应用在年会上的精彩呈现，同时深入探讨了AI技术快速发展带来的风险治理问题，多位专家给出了不同的治理路径和观点。
人民网博鳌3月27日电 (记者梁秋坪)在热闹非凡的博鳌亚洲论坛2025年年会上，AI元素宛如一颗璀璨的明星，成功吸引了众人的目光。瞧，光谷人形机器人迈着自信而从容的步伐，以专业且亲和的姿态担当起讲解员的重任。它站在那里，仿佛一位知识渊博的向导，为每一位来宾详细地介绍着各类信息，那有条不紊的讲解，让来宾们对相关内容有了更深入的了解。
还有那憨态可掬的熊猫机器人，它挥舞着画笔，宛如一位技艺精湛的艺术家。在它的笔下，一幅幅生动的画作逐渐成型，展示出令人惊叹的绘画技艺，引得周围的人纷纷驻足欣赏。更有那灵活的机器狗，它轻松地完成倒立等高难度动作，就像一位身手矫健的运动员，瞬间吸引了众多目光，成为了现场的一大亮点。
这些生动有趣的AI应用，无疑为年会增添了浓郁的科技魅力。它们的精彩表现，也引发了与会嘉宾的广泛关注。大家围绕着人工智能的迅猛发展及其相关议题，展开了一场热烈而深入的讨论。然而，在AI技术如同脱缰野马般高歌猛进的当下，一个严峻的问题也摆在了人们面前——如何强化风险治理，这已然成为亟待解决的关键问题。
中国工程院院士、清华大学智能产业研究院院长张亚勤敏锐地指出：“当前，我国人工智能行业的发展正经历着一场深刻的变革。它正从生成式AI向Agent智能转变，从预训练向推理迈进，从信息智能向物理智能和具身智能跨越。但这种快速的技术进步，就像一把双刃剑，在带来巨大机遇的同时，也伴随着风险的显著增加。”他进一步解释道，智能体作为一种具有自我规划、学习和实践能力的技术工具，在运行过程中可能会因为路径不可控，从而引发一系列未知的安全风险，就像一辆失去控制的汽车，随时可能带来危险。
针对这一挑战，张亚勤提出了切实可行的技术治理路径。一方面，通过算法优化来提升AI的可控性与可信度，就像给汽车安装了更先进的导航系统和控制系统，从技术基层增强对AI的掌控；另一方面，为人工智能设定明确的红线和边界，比如禁止智能体进行自我复制，严格遵守现行的应用规则和法律规定，就像为汽车划定了行驶的路线和规则，为AI发展划定清晰的行为准则。
在加强AI风险治理是否会阻碍其发展的问题上，中国科学院自动化研究所研究员曾毅给出了明确的否定答案。他坚定地表示：“人工智能的发展应用和安全之间并非相互掣肘的关系。提升人工智能大模型的安全能力，对其求解能力的影响微乎其微。我们团队通过精心设计的实验，将十几个大模型的安全性能提高了百分之二三十，结果发现这些模型解答问题的能力并未受到影响。”
曾毅提倡通过技术升级为人工智能建立“安全围栏”，而这需要技术、市场、政策、伦理等多方面协同发力。他着重强调：“必须将伦理安全作为人工智能大模型发展的基因，作为不可违背的第一性原理。”只有这样，才能在AI技术持续发展、智能体应用不断深入的过程中，保障其稳健前行，降低因技术扩张带来的各类风险，就像为AI的发展穿上了一层坚固的铠甲。
中国社会科学院大学教授、国务院原副秘书长江小涓坦诚地表示：“我对过去很多年AI治理的进展感到遗憾，相关治理原则在落地执行方面成效有限。”她认为，这主要是由于人们过于泛泛地讨论原则问题，却忽视了将这些原则具体化、可操作化的重要性。2017年的阿西洛马会议上，与会各方制定了一套确保人工智能安全有益发展的准则，涵盖了安全性、故障透明度、价值观一致等23条原则。江小涓指出：“阿西洛马人工智能原则提出至今，一直被反复讨论。今年2月在法国巴黎举行的人工智能行动峰会，各国签署的声明依旧延续了过去提出已久的原则。实际上，如何落地、如何实践仍是最大的挑战。”
从经济学的角度出发，江小涓探讨了人工智能治理的可行性路径。她认为，AI治理可借助自发秩序和市场机制的力量。以DeepSeek为例，其最大贡献在于打破了AI行业的垄断格局，使这一领域从寡头竞争转变为充分竞争的市场。在这样的市场环境下，发展和安全问题能够通过市场自发的秩序解决，就像市场这只“看不见的手”能够自动调节经济一样。
在AI技术飞速发展的今天，博鳌亚洲论坛2025年年会聚焦AI风险治理的深入讨论，如同一场智慧的盛宴，为未来AI发展与风险治理的平衡凝聚了各方智慧。各方需共同努力，就像一群齐心协力的划船手，推动AI在安全、健康的轨道上持续创新发展。
本文围绕博鳌亚洲论坛2025年会上AI元素引发关注展开，介绍了年会上AI的精彩应用，指出AI技术快速发展带来风险治理难题。多位专家提出不同治理路径，如张亚勤的技术治理、曾毅的建立“安全围栏”、江小涓的借助市场机制等。年会的讨论为AI发展与风险治理平衡凝聚了智慧，强调各方需共同努力推动AI安全健康发展。
原创文章，作者：宫古千凡，如若转载，请注明出处：https://www.xiaoyaoxin.com/archives/6720.html
