9月9日至13日,由商务部、北京市人民政府共同举办的中国国际服务贸易交易会(简称“服贸会”)在北京首钢园举办。9月10日下午,第三届全球金融品牌大会在服贸会隆重开幕,本届大会由金融界、服贸会联合主办,大会主题为“智启未来·向新而生”。
原中国保监会副主席魏迎宁,北京大学经济学院原院长、教授孙祁祥,金融界集团董事长张斌,江苏省体育产业集团党委书记、董事长顾晔,中央财经大学金融品牌研究所所长王晓乐,招商仁和人寿董事长黄志伟,泰康保险集团助理总裁兼董事会秘书应惟伟,人保财险总裁助理兼北京分公司党委书记、总经理张巍,明亚保险经纪副总裁李曦,渣打银行(中国)品牌负责人陈雯婷等嘉宾以及近两百家机构的代表出席大会。
AI大规模内容生产正在重塑金融品牌建设全流程,但AI幻觉、伪造内容、认知操纵等风险随之而来。在第三届全球金融品牌大会上,金融界品牌研究院院长袁晓懋提出,AI给金融品牌带来五大信任风险,行业不能单纯追逐技术效率,需要搭建合规防御体系,回归人的判断、责任与温度,筑牢品牌信任护城河。
AI浪潮之下,金融品牌遭遇多重信任冲击
AI技术普及带来内容生产效率飞跃,同时衍生一系列声誉隐患。袁晓懋梳理当下行业现实,AI带来信息失真、责任界定模糊、认知退化、工具依赖、伦理冲突、数字鸿沟、舆论极化、信任瓦解等多重现实挑战。算法会不断强化用户固有观点,形成信息囚笼效应;算法杀熟、隐私泄露、AI深度伪造诈骗等问题,持续侵蚀金融行业赖以生存的信任根基。
他将AI对金融品牌的信任冲击归纳为五大风险。第一是AI幻觉风险,不少权威机构输出的AI生成报告存在虚假引用、虚构案例,四大会计师事务所多份报告被爆出幻觉问题。金融机构如果直接采信AI产出内容而不做完整核验,很容易输出错误信息,污染公共信息环境,抬高大众辨别有效信息的成本。英国FCI数据显示,AI在投资、养老领域输出答案错误率高达52%,甚至会迎合用户主观偏好给出误导性建议。
第二是AI操纵认知带来的信任错觉。通过向大模型投喂虚假毒数据,能够完成对AI的“投毒”,批量炮制虚假种草内容,塑造虚假权威,误导消费者。普通用户依靠AI获取金融知识,接收的却是被篡改过的信息,形成错误认知。
第三是AI伪造带来突发性品牌伤害。AI图像、视频生成工具降低造假门槛,曾出现冒用江西银行名义炮制彩礼贷款海报的舆情,即便机构第一时间辟谣,前期虚假传播已经造成不可逆的品牌损伤。普通个体借助AI工具就可以生成虚假物料对抗机构,二创内容边界模糊,给金融舆情处置带来全新难题。营销场景同样暗藏风险,AI短时间可以批量产出上千条营销视频素材,一旦缺少人工审核,极易触发舆情。
第四是内容责任边界模糊。AI快速产出内容,但内容出错之后,创作、使用、传播各方责任难以厘清,很多机构习惯把责任推给第三方外包内容,埋下二次舆情隐患。
第五是品牌符号错配风险。AI生成图文视频,容易出现文化、伦理层面的硬伤。某机构投教短视频使用传统文化中象征欺骗诱惑的蜘蛛精形象,上线三天紧急下架,依旧引发大范围舆情。相较于文字,图片、视频的文化伦理审核难度更高,是当前风控薄弱环节。
顺应监管框架,搭建机构内部多层合规边界
监管层面已经在为AI应用划定制度红线。从金融产品网络营销管理办法,到最高法出台涉人工智能纠纷审理意见,一系列制度文件落地,给金融机构AI营销使用划定合规框架。袁晓懋指出,机构需要主动研究监管规则,开展全员宣贯,在国家框架之上,细化企业内部可落地的责任、道德、合规边界。
首先要守住内容质量风险。金融行业容错空间小,必须先理清红线底线,才能追求表达上的灵活。AI可以提升速度,但核验事实、案例、数据无法提速,要落实双人审核、全流程追溯机制,尤其严格约束官方自媒体内容输出。在AI追求极速产出的时代,品牌声誉管理需要保留“慢下来”的价值,把事实核验作为内容发布必经关卡。
其次,要构建AI反制防御能力。一方面提升机构正面内容声量,用真实专业声音对冲网络AI注水虚假内容;另一方面做到“内紧外松”,对外表达保持鲜活,内部风控绝不放松。依靠技术建设监测体系,当前文字舆情识别成熟度较高,但图片识别准确率有限,纯视频识别能力短板明显,机构要升级图像、视频识别技术,应对AI伪造物料的极速传播。同时压实内容发布方责任,改变出事之后私下勾兑第三方的旧模式,过错推定落到责任主体,规避外包内容埋雷。
回归人的价值,守住金融品牌信任核心资产
技术只是工具,人依旧是品牌声誉管理的最终负责人。袁晓懋提出,在AI批量造内容的时代,人的判断、责任、温度,是金融机构最稀缺的信任资产。
第一,守护专业价值。AI报告充斥华丽专业术语,但很多只是空洞词汇。金融机构不能直接套用AI产出的专业内容,要依靠自身专业能力,把复杂金融知识转化为通俗易懂的大白话,做好面向大众的对话沟通。
第二,回归管理本质,做好三个管住:管住内容,所有对外输出内容最终由人把关;管住渠道,管理官方、第三方合作、员工自媒体各类传播出口;管住人,技术无论如何迭代,品牌声誉的最终责任人是具备判断力的人。
AI还会持续带来层出不穷的全新课题,需要全行业共同探索,共建AI时代金融品牌声誉风险管理的体系与底线。


