为AI时代提供“望远镜”,《人工智能治理的国际图景》报告发布

文汇网
07-20 15:26 来自上海市

历经八年持续深耕,世界人工智能大会(WAIC)已发展成为全球人工智能领域极具影响力的行业盛会,承担着“科技风向标、应用展示台、产业加速器、治理议事厅” 四大核心功能。在昨天由启明创投主办的“启明创投・创业与投资论坛 ——从算力原点到应用落地的进化征程”上发布了《人工智能治理的国际图景》报告,并围绕基础模型、具身智能、AI基础设施、AI应用等做出2026启明创投AI十大展望,这是启明创投连续第四年发布AI十大展望:

构建人工智能护栏的全球共识

《人工智能治理的国际图景》报告由北京大学中外人文交流研究基地执行主任、教授王栋代表研究团队发布。

北京大学中外人文交流研究基地执行主任、教授王栋

该报告是北京大学中外人文交流研究基地在启明创投支持下,持续深耕人工智能全球治理、探索跨国规则协调路径的标志性研究成果,为课题《构建人工智能护栏的全球共识》第一阶段成果。报告立足全球数字化变革大势,为弥合各国治理分歧、搭建多边对话桥梁、凝聚人工智能安全发展国际共识提供扎实理论支撑与实操参考,助力全球携手走好人工智能向善发展之路,以共治护航智能时代人类的共同福祉。

当前,人工智能加速进入信息传播、教育、医疗、金融、工业、公共治理和国家安全等领域,在释放创新潜力、推动经济社会发展的同时,也带来一系列跨领域、跨区域和跨国界风险。报告立足人工智能技术快速迭代和全球治理规则加速演进的现实,梳理人工智能风险类型、主要治理工具以及不同国家、地区,国际组织和前沿企业的治理实践,力图呈现当前全球人工智能治理的整体图景。

报告首先将当前人工智能风险归纳为系统性风险、恶意使用风险和故障风险三类,并针对上述风险提出伦理防护栏、技术防护栏和规则防护栏三类治理工具。在国别和区域比较方面,报告系统分析了代表性地区与国家如中国、美国、欧盟、东盟,经济合作与发展组织以及前沿人工智能企业的治理框架。

通过比较区域治理异同,报告发现当前全球人工智能治理呈现“原则趋同、路径分化”特点。各方普遍认同安全、透明、问责和以人为本等原则,但在发展优先级、监管强度、责任归属和制度路径上仍存在明显差异。基于此,报告进一步梳理划定了需要严守的若干治理红线,涵盖模型可靠性、公平性保障、高风险用途防控、网络攻击防范等;同时报告提出,在失控风险防控、透明问责机制、监管沙盒建设、劳动力市场转型应对等领域,存在有待健全完善的治理黄线。

面向未来,报告认为,国际社会应建立能够适应技术快速迭代的动态治理体系,推动不同国家在风险评估、内容标识、安全测试、事件报告和责任追踪等领域实现规则衔接与结果互认,同时进一步明确政府、企业、学术机构和社会组织的责任边界,形成兼顾创新活力与安全可控的全球人工智能协同治理体系。

关于未来AI的十大展望

作为人工智能领域最具前瞻性与影响力的创投机构之一,这是启明创投连续第四年主办该论坛。启明创投从2013年开始系统性布局人工智能领域,截至目前,已在AI领域累计投资了超过100个项目,投资总额达120亿元人民币。启明创投主管合伙人周志峰发布了对未来AI的十大展望。

启明创投主管合伙人周志峰

1.未来12-24个月,顶尖模型将内化大部分“外挂”能力,包括任务规划、工具调用、多Agent协同及部分Harness工程能力等。

2.多模态模型将进一步向可交互世界建模演进,成为AI在物理世界获得环境感知、长期规划并大规模落地的关键技术路径。

3.头部机器人公司的有效数据,将从2025年的“万小时级”,跃升到2027年的“百万小时级”,其中人类第一视角数据会占绝对主导。

4.灵巧手将迎来加速发展,带有触觉感知的灵巧手会逐渐成熟并持续降本,与双指夹爪方案形成高低搭配,在复杂操作场景逐渐规模化渗透。

5.AI算力需求重心转向推理,存储、先进制程和先进封装产能层层吃紧,未来两年AI基建将持续面临结构性紧缺,算力资产储备将升格为AI企业的核心战略。

6.AI基础设施将进入系统级竞争阶段,竞争维度覆盖芯片、互联、散热、供电等关键环节,未来两年内有望涌现基于新架构的算力芯片及超节点大集群,以实现低成本、高效率的Token生产。

7.安全可信将与产品效果、Token成本并列为影响企业AI大规模落地的三大关键变量,安全可信AI将从可选项升级为必选项。

8.未来12-24个月,AI应用的商业模式将加速脱离互联网时代的Freemium逻辑,转向以结果和价值定价。衡量AI公司的核心指标,将从用户规模转向单位智能成本创造的商业价值。

9.未来12-24个月,AI应用商业化将聚焦垂直场景与高付费用户,效率端(save time)将领先消费端(kill time)率先爆发;伴随Token成本持续下降与交互范式创新,现象级AI消费应用将逐步浮现。

10.未来12-24个月,AI-Native组织将从概念走向实证,一批企业将实现数倍于传统组织的人均产出。

热点新闻