谨防金融大模型应用风险
时间:2024-11-20 19:02:50来源:经济日报
 当前,人工智能大模型正在逐步影响各行各业,金融领域也不例外。

  根据英伟达发布的针对近400家金融机构的调研结果,43%的金融机构已开始使用大模型。麦肯锡2024年的调研数据显示,金融行业从业者反馈“在工作中常规使用大模型”“在生活中常规使用大模型”和“在工作和生活中均常规使用大模型”的数量占比已达到48%。据麦肯锡测算,大模型有望给全球金融行业带来每年2500亿美元至4100亿美元的增量价值。这些数据无疑为大模型在金融领域的进一步应用描绘了光明的前景。

  然而,随着大模型的广泛应用,一些新风险也逐渐显露出来,一旦应对不当,可能对金融行业构成严峻的挑战。

  首先,大模型的进一步推广可能会加剧金融行业的“两极分化”。由于技术投入、业务禀赋和人力资源等方面的差异,一些头部金融机构在大模型展现的能力上开始显现出明显优势。相比之下,中小机构受限于资金预算约束、相对有限的业务规模和专业人才资源,与头部机构之间的差距将被逐渐拉大,呈现出“强者愈强,弱者愈弱”的趋势。从行业整体来看,金融行业原本就具有信息数据密集、人才智力密集等特点,大模型的推广应用可能导致金融行业资源进一步集中。

  其次,目前大模型本身存在的缺陷也可能给金融系统带来安全风险。大模型仍存在专业能力有限、生成结果不可控、算法可解释性较差等问题,当前在合规性和适当性等方面仍缺乏保障。一旦训练数据不完备或质量较差,可能会生成低质量的错误内容,导致结果不可用,甚至误导金融机构和金融消费者的判断和决策。在模型可解释性方面,大模型的复杂程度较高,使得内容生成的结果和过程难以被清晰地解释,产生“黑箱”问题,导致金融机构难以在事前、事中、事后进行有效的风险溯源和管理。此外,考虑到大模型基于海量数据进行训练,若底层数据本身存在偏见和歧视,可能会导致大模型内容输出、决策生成方面存在偏见,进而导致金融服务存在歧视性定价等风险。

  最后,金融机构对少数大型科技公司提供的基座大模型的依赖可能形成新的风险点。考虑到基座大模型通常与部分大型科技公司云业务捆绑销售,这可能进一步加大金融机构对少数第三方的依赖,加大相关技术服务商对金融系统的潜在影响力。一旦服务商的运营出现问题或系统出现故障,将对金融系统的稳定造成严重影响。

  当前,大模型的深入应用对金融监管提出了更高要求,现实中如何既鼓励创新,又确保金融行业的健康稳定发展,已成为金融监管部门的重要议题。只有防患于未然,在深刻认识大模型的特点并妥善应对这些风险的基础上,才能推动金融大模型更好发挥作用,促进金融业高质量发展。

标签:

最新
  • 谨防金融大模型应用风险

     当前,人工智能大模型正在逐步影响各行各业,金融领域也不例

  • “万千气象看福建·唱响海上牧歌”网络主题活动在福州启动

    福建省委宣传部副部长、省委网信办主任申月表示,灿烂的海洋文化塑

  • 追寻数学足迹 探究角的秘密 驻马店市第三十三小学开展二年级数学综合实践活动

    为深入贯彻双减政策要求,实现爱学课堂,让孩子们在学习中感知、在体验

  • WTT法兰克福冠军赛:王楚钦爆冷无缘8强

    2024世界乒乓球职业大联盟(WTT)法兰克福冠军赛6日进行的第二轮角逐

  • 拥抱AI,软件业高质量发展的硬道理

    AI将重构软件的架构体系,全面提高劳动生产力。AI为智能制造注入新

  • 推动人工智能成为“底座技术”——从2024中国计算机大会看人工智能发展趋势

    新华社杭州10月27日电 题:推动人工智能成为底座技术——从2024中

  • 蔡旭哲、宋令东、王浩泽3名航天员领命出征

    10月30日凌晨,神舟十九号载人飞行任务航天员乘组出征仪式在酒泉卫

  • 第七届进博会展品陆续抵沪 上海边检部门开启“绿色通道”助力安全快速入境布展

    中新网上海10月23日电(陈静 黄波 叶真于)随着第七届进博会的日益

  • 捷杰耶夫:音乐让我们越来越亲近-最新快讯

    量大管饱、堪比拉练、不白来,都不白来……这几天,在许多网络平台

  • 《2024全球碳中和年度进展报告》发布|全球观察

    中新网北京10月17日电 (记者 高凯)《2024全球碳中和年度进展报告

  • 《九龙城寨之围城》电影展启动礼在香港举行 每日速看

    走进香港,走进香港电影九龙城寨之围城电影展启动礼7日在香港国际机

  • 当前焦点!多地"中秋"新房成交量跌幅明显

    来源标题:多地中秋新房成交量跌幅明显,南京等三城逆势上扬!京沪深

  • 银发力量再集结,号头庄五老协会授旗仪式举行|环球简讯

    9月11日,定州市号头庄回族乡举行五老协会授旗仪式,向号头庄村、梁

  • 7月全国新增建档立卡新能源发电项目共4647个

    中新网9月3日电 据国家能源局网站消息,国家能源局发布关于2024年7

  • 汝州卫健委通报41人遭清退:招聘违规、结果作废、责任人被处理

    中新网8月17日电 据健康汝州微信公众号消息,针对媒体和网民关注的

  • 深圳推动空港设施升级 扩大国际航线网络

    8月14日,深圳市计划在2025年底前完成机场三跑道及国际、国内转运库

  • 旅游
    • 国药股份08月18日获沪股通增持14.38万股

    • 中荣股份:纸制印刷包装企业因下游客户分布于不同市场,产品需求差异较大

    • 集运指数(欧线)期货上市首日,多数合约上涨,主力合约ES2404涨超2%,报800点

    • 奥美医疗举行第三届员工子女教育奖励颁发仪式 为员工子女颁发教育奖励