主要围绕银行客户意图识别任务,通过文本嵌入(Embedding)技术提升用户咨询意图的分类准确率,核心功能可分为以下模块: 一、基于银行业务办理的复杂意图识别 1.项目背景说明
-
储蓄账户开设与管理
- 这类业务涉及到储蓄账户的创建和维护。客户可以在银行开设新的储蓄账户,这通常需要提供个人身份证明、地址证明以及可能的初始存款。银行还提供更新账户信息的服务,如更改联系信息、更改账户类型等。此外,客户还可以查询自己账户的余额、交易记录和其他账户活动。这类服务还可能包括网上银行和移动银行服务的设置和支持,以方便客户远程管理其账户。
-
贷款服务
- 这包括各种类型的贷款申请和咨询服务,如住房贷款、汽车贷款、个人贷款等。银行提供详细的贷款产品信息,包括贷款金额、利率、还款期限和还款方式等。银行还会根据客户的信用评分和财务状况审核贷款申请。对于不同类型的贷款,如住房贷款或汽车贷款,银行可能需要相应的资产作为抵押。此外,银行还提供贷款计算器和专业顾问来帮助客户计划其财务。
-
信用卡服务
- 这涉及信用卡的申请、激活、挂失、信用额度管理和账单查询等服务。客户可以根据自己的需要选择不同类型的信用卡,如奖励卡、积分卡或商务卡等。银行提供在线服务来激活新卡、报告丢失或被盗的卡,并及时发行新卡。客户还可以调整信用额度,查询每月的账单和消费记录。此外,信用卡服务还包括各种优惠和奖励计划,如旅行奖励、现金返还等。
-
投资与理财咨询
- 这类业务提供关于股票、债券、基金和其他投资产品的咨询服务。银行通常会提供个性化理财规划,帮助客户根据自己的风险承受能力、投资目标和时间框架制定投资策略。此外,银行还提供退休规划服务,帮助客户规划其退休金账户和储蓄。投资顾问可帮助客户了解市场动态、资产配置以及潜在的投资机会。
-
国际业务与汇款
- 这类业务涵盖了与国际金融交易相关的服务,包括外汇兑换、国际汇款和外币账户管理。客户可以通过银行进行跨国货币转换和汇款,银行提供即时的汇率信息和汇款指导。对于需要频繁进行国际交易的客户,银行提供外币账户服务,允许存储和管理多种货币。此外,银行还提供企业级的国际贸易融资和汇款服务,支持企业在全球范围内的业务扩展。
-
对话场景文本数据
- 储蓄账户开设与管理
- 客户:“你好,我想开一个储蓄账户。我需要了解一下开户的流程和需要的文件。另外,我还想知道你们的利率是多少。”
-
贷款服务
- 客户:“我想咨询一下关于房屋贷款的事情。我刚看中了一套房子,想知道申请贷款的条件和大概的年利率。还有,贷款的最长期限可以是多久呢?”
-
信用卡服务
- 客户:“嗨,我昨天收到了你们邮寄的新信用卡,但我不太清楚怎么激活它。还有,能不能顺便帮我检查一下我的信用额度,看看是否可以提高一些?”
-
投资与理财咨询
- 客户:“你好,我最近在考虑一些投资理财的事情,但不太了解市场。你们能提供一些基础的股票或者基金投资建议吗?我主要是想为退休后做些准备。”
-
国际业务与汇款
- 客户:“我需要汇一笔款项到国外的家人那里,想问一下你们的国际汇款手续费是多少?同时,我还想了解一下汇款的时效和汇率。”
这些对话示例可以作为您数据集中各个业务类型的模板。如果您需要更多示例或者有其他特定的要求,请随时告诉我。
加载训练集和测试集
展示了大模型Function calling的过程
在文本向量化之后可以采用机器学习来做意图识别
分别使用了随机森林、LGBM、XGB机器学习算法进行预测
四、过Few-Shot Prompt优化意图识别精度 “Few-Shot”(少样本学习)是机器学习领域的核心概念,让模型仅通过少量标注样本(通常是 1~50 个)就能快速学习并适应新任务,而无需传统深度学习所需的成千上万的标注数据。
五、基于文本搜索的有监督意图识别策略 核心目的是通过语义相似度挖掘辅助用户意图识别。计算训练集中所有文本嵌入向量两两之间的余弦相似度,生成一个 相似度矩阵 提取每个文本最相似的前3个文本索引
六、借助模型融合策略提升意图识别准确率 将以上所有方法得到的预测结果,合并集合去众数,相当于博彩众长,得出预测成功率100%的结果 LLM_handling.py 大模型预测,使用了few-shot prompt
machine_learning.py 机器学习模型预测 使用了随机森林、LGBM、XGB机器学习算法
embedding_handle.py 文本向量化 采用了OpenAI的Embedding模型,将文本转换为向量表示
model_fusion.py 模型融合,将以上所有方法得到的预测结果,合并集合去众数,相当于博彩众长,得出预测成功率100%的结果