上一篇
李开复：2025年会是AI应用大规模落地元年
AI野蛮发展带来一些风险，该如何平衡 AI 的应用与治理?
来源：卓商AI
发布时间：2025-03-30
人工智能(AI)技术快速发展，赋能各行各业，也带来难以预知的风险。如何平衡人工智能的应用与治理，是博鳌亚洲论坛 2025 年年会上与会人士热议的话题。
人工智能的推广应用与加强监管并不矛盾。专家认为，AI 从信息智能到物理智能再到生物智能，风险会增加很多倍。与此同时，当人工智能大模型的安全性提升 20% 至 30%，对其本身的求解能力几乎没有影响。
中国人工智能大模型的陆续发布改变了全球人工智能的版图，并以其低成本和开放性促进了人工智能在全球的更公平应用，更多中小企业加入进来分享人工智能红利，也丰富了人工智能应用场景。各国与会人士有一个共识，就是推进人工智能的全球治理需要中国发挥重要作用。
AI需要通过大量数据学习来提升能力。数据越多，数据的质量越高，系统的能力就越强，未来出现“幻觉”和推理谬误的可能性就越小。中国庞大的制造业体系和巨大的消费市场为人工智能提供了用武之地，既提升了规模化生产效率，又促进了个性化需求满足。
当前，全球标准化的数据服务商数量相对较少，很多大模型获取的数据量虽然很大，但质量较低。如何构建一个完善而成熟的数据市场，是人工智能发展面临的迫切问题。中国正在统筹开展数据领域规划编制工作，致力于培育全国一体化数据市场，这将为人工智能的高质量应用奠定基础。
算法透明化是监管人工智能的又一关键环节。对用户而言，既要得到答案，又要知道这个答案的求解之道。例如，在交通和医疗领域，人工智能的推理偏差直接关系人们的生命安全和健康安全。在教育领域，算法的偏颇会影响教育体系的效能。因此，针对不同应用领域，需要建立风险等级测试评估体系，分类分级管理，快速有效响应。对人工智能技术研发企业而言，要保持人工智能的可解释性和可预测性。
目前世界上一些欠发达国家和地区没有广泛使用互联网，人工智能时代的来临使得数字鸿沟变成智能鸿沟。弥补智能鸿沟，需要人工智能发展走在前列的国家探索共通标准，通过对话与合作，在充分尊重各国政策和实践差异性基础上，推动各利益相关方积极参与，在国际人工智能治理领域形成广泛共识。
确保人工智能始终处于人类控制下是论坛年会与会人士的共识。不论人工智能如何发展，“不能自我复制”等红线是永远不能突破的。人工智能的创新要遵守现有的版权、专利、技术等制度设计，而不能置身于人类社会的伦理系统之外。只有将人类的道德价值投射到人工智能领域，才能确保其始终朝着有利于人类文明进步的方向发展。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新资讯
1
2
3
4
5
6
7
8
9
10
猜你喜欢
Spoke
Spoke是一款AI插件，为产品经理提供强大的、注重隐私的AI功能，能够在几秒钟内为用户提供上下文信息。它可以帮助全球快速增长的团队节省时间，创造上下...
LastMile AI
LastMile AI是一个AI开发平台，专为工程师而设计，可以用于原型开发和生成式AI应用的生产。它提供了一站式的多模态AI模型访问，包括语言模型（...
Dokkio
Dokkio是一款利用人工智能技术提供云文件协作的工具。它能帮助用户管理多个活动、搜索文档和文件、整理研究材料、组织内容库，并将所有文件和内容集中在一...
Engage Sphere AI
Engage Sphere是一个基于AI的员工参与度分析平台。它可以深入分析公司各个部门、团队和岗位的参与度,帮助管理者明确团队互动症结所在,并采取行...
Pikzels
Pikzels连接顶级人才和有远见的客户。我们促进协作，释放创意卓越。加入我们，获取来自各个领域的优秀专业人才。体验协作的力量，释放你的创意潜能。Pi...
Zoho Cliq
Zoho Cliq是一款专为提高企业工作效率而设计的在线即时通讯和协作平台。它将团队成员、对话和工作流集中在一个地方,实现无缝连接。主要功能包括:组织...
Papyrus AI
Papyrus AI是一款能够轻松使用自然语言分析电子表格数据的助手。它可以回答你任何关于数据的问题，无需编写代码、公式或依赖其他工具。你可以与同事合...
Echobase
Echobase AI可通过提供专门训练的AI代理来协助团队进行查询、创建和分析文件，这些代理擅长问答、分析和任务完成。...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
