首页金融正文

智能客服时常说“正确的废话”,金融大模型针对性掀起“百模大战”

作者:付乐

来源:华夏时报

发布时间:2023-11-29 16:15:29

摘要:近日,多家公司发布了基于金融场景的大模型,其中中关村科金发布国内首个企业知识大模型,另有腾讯云发布了金融行业大模型解决方案。此前,奇富科技、星环科技、度小满等也已发布了金融大模型,金融业正提速走向AI创新应用期。

智能客服时常说“正确的废话”,金融大模型针对性掀起“百模大战”

华夏时报(www.chinatimes.net.cn)记者 付乐 冉学东 北京报道

今年以来,大模型可以说是对金融业影响最直观的“催化剂”。作为数字化和智能化应用的前沿领域,金融行业数据资源丰富,实践场景广泛,拥有与大模型深度结合的前景。

近日,多家公司发布了基于金融场景的大模型,其中中关村科金发布国内首个企业知识大模型,另有腾讯云发布了金融行业大模型解决方案。此前,奇富科技、星环科技、度小满等也已发布了金融大模型,金融业正提速走向AI创新应用期。

金融大模型落地效果如何?对未来金融生态又有何影响?11月28日,清华大学人工智能研究院常务副院长孙茂松对《华夏时报》记者表示,“当前最关键的是人工智能垂直应用领域落地,能否解决问题、解决得好不好”。而这些也是深耕金融垂直领域必须思考的命题。

当下,金融大模型落地最常见的场景之一是智能客服,但目前智能客服给人的感觉是“并不智能”,经常所问非所答,也就是大模型所出现的“幻觉”问题,这也是大模型落地的难点质之一。在业内看来,可以通过外挂知识库,解决事实判断的问题,使大模型具备过程判断的能力,能够有效避免“幻觉”问题。

通过外挂知识库解决“幻觉”问题

金融业是高知识密度行业,数据体量大、质量高,业务场景丰富,为大模型商业化落地提供了基础,金融业成为大模型率先落地的场景之一。

2023年下半年,国内金融机构布局大模型的速度明显加快。除了金融科技公司,银行、保险公司和券商也逐渐加入“百模大战”。

金融大模型属于垂直领域大模型。垂直领域大模型对算力和算法要求相对较低,但对特定领域的知识和数据要求高。

2023年,美国彭博社推出500亿参数的BloombergGPT,涵盖了3630亿词的金融文本和3450亿词的通用文本。在业内看来,收录如此大文本的金融知识库在全世界范围内比较少见。

“知识大模型是企业引入大模型的最佳切入点,也是新时代下必需的新兴基础设施。”中关村科金技术副总裁张杰对《华夏时报》记者表示。

记者注意到,在金融大模型落地方面,智能客服是被涉及较多的场景。当下,智能客服给人的印象普遍不智能,会说出“正确的废话”“一本正经的胡说八道”,极大地降低了大模型在真实应用场景中的可靠性。

上述问题被称为“幻觉”现象,也是大模型待解难题之一。原因在于,当大模型被要求回答问题,其可能是缺乏相关知识,或者内化了训练语料中的错误知识。另一方面,大模型在训练时会出现"谄媚",即模型可能会生成偏向用户观点的回答,而不是提供真实答案,这也会导致幻觉。

张杰表示,针对“幻觉”问题,可以通过外挂知识库,解决事实判断的问题,使大模型具备过程判断的能力。

构建知识库的关键在于知识的时效性。例如在时效性要求较高的信用卡营销场景,用户在APP操作时中断了,此时营销人员可能会打电话询问是否继续申请卡片等,进而促进转化。

针对这类需要实时查询的数据,既不应该放到大模型内部,也不应该放到知识库里。可以在大模型外部挂载一个领域知识库,通过处理模块来判断哪类知识需要在大数据平台上实时查询。还可以根据不同客户的信用额度授权,以及信用等级确定借款利息等。

金融大模型创新场景加速落地

除了“幻觉”现象,落地难也是金融大模型面临的问题。如何让金融机构快速拥有高精度、高性价比的AI助手是破局的关键。

在业内看来,金融这类知识密度高的领域,大模型应立足高质量数据和场景,追求效率和成本的最优解,做领域大模型的定制具备广阔的商业前景。

大型金融机构更多地在底层方向布局,部分构建起自己的模型。一般不会触达算力集群、计算网络存储等底层基础设施,而是选择跟云厂商合作。但更多的情况是,在金融大模型的基础上,加上行业数据做精调,再变成客户的专属大模型。

“事实上,整个金融大模型的产品体系是由下往上走的,不同的金融企业可以在不同的点去切入金融行业大模型,也可根据他自身的投入成本,以及场景复杂度来进入赛道。”腾讯云副总裁、腾讯云智能解决方案负责人王麒表示。

张杰介绍到,目前金融行业普遍聚焦在初步引入大模型阶段,其中有两个场景落地较快:一是面向企业内部员工的文档问答,二是面向各个部门所提需求的自然语言转查询。

针对细分场景的落地应用,腾讯云金融行业大模型解决方案具备金融领域知识推理、研报撰写、智能舆情等专业下游任务能力。例如安全风控场景,用垂直场景的小量样本也可以支撑定制化风控模型的快速构建。中关村科金则推出的“超级员工”助手系列AIGC应用,包括ChatPilot知识助手、营销助手、服务助手、培训助手、写作助手、合规助手等。

例如,针对财富业务场景,营销助手通过构建用户画像,提供包括用户基本画像和深层画像、投资经历、关注竞品、投资预测等数据信息,理解客户的投资需求。随后基于用户画像构建销售策略,结合大模型的生成提示能力等,为客户生成投资建议和产品营销方案等,减少理财师手工撰写文案的工作量、提升理财师单兵效能。

责任编辑:孟俊莲 主编:张志伟

查看更多华夏时报文章,参与华夏时报微信互动(微信搜索「华夏时报」或「chinatimes」)