Skip to content

About

围绕银行客户意图识别任务,通过文本嵌入(Embedding)技术提升用户咨询意图的分类准确率,使用qwen大模型

Resources

Stars

7 stars

Watchers

0 watching

Forks

Latest commit

 

History

7 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

主要围绕银行客户意图识别任务,通过文本嵌入(Embedding)技术提升用户咨询意图的分类准确率,核心功能可分为以下模块: 一、基于银行业务办理的复杂意图识别 1.项目背景说明

  1. 储蓄账户开设与管理

    • 这类业务涉及到储蓄账户的创建和维护。客户可以在银行开设新的储蓄账户,这通常需要提供个人身份证明、地址证明以及可能的初始存款。银行还提供更新账户信息的服务,如更改联系信息、更改账户类型等。此外,客户还可以查询自己账户的余额、交易记录和其他账户活动。这类服务还可能包括网上银行和移动银行服务的设置和支持,以方便客户远程管理其账户。
  2. 贷款服务

    • 这包括各种类型的贷款申请和咨询服务,如住房贷款、汽车贷款、个人贷款等。银行提供详细的贷款产品信息,包括贷款金额、利率、还款期限和还款方式等。银行还会根据客户的信用评分和财务状况审核贷款申请。对于不同类型的贷款,如住房贷款或汽车贷款,银行可能需要相应的资产作为抵押。此外,银行还提供贷款计算器和专业顾问来帮助客户计划其财务。
  3. 信用卡服务

    • 这涉及信用卡的申请、激活、挂失、信用额度管理和账单查询等服务。客户可以根据自己的需要选择不同类型的信用卡,如奖励卡、积分卡或商务卡等。银行提供在线服务来激活新卡、报告丢失或被盗的卡,并及时发行新卡。客户还可以调整信用额度,查询每月的账单和消费记录。此外,信用卡服务还包括各种优惠和奖励计划,如旅行奖励、现金返还等。
  4. 投资与理财咨询

    • 这类业务提供关于股票、债券、基金和其他投资产品的咨询服务。银行通常会提供个性化理财规划,帮助客户根据自己的风险承受能力、投资目标和时间框架制定投资策略。此外,银行还提供退休规划服务,帮助客户规划其退休金账户和储蓄。投资顾问可帮助客户了解市场动态、资产配置以及潜在的投资机会。
  5. 国际业务与汇款

    • 这类业务涵盖了与国际金融交易相关的服务,包括外汇兑换、国际汇款和外币账户管理。客户可以通过银行进行跨国货币转换和汇款,银行提供即时的汇率信息和汇款指导。对于需要频繁进行国际交易的客户,银行提供外币账户服务,允许存储和管理多种货币。此外,银行还提供企业级的国际贸易融资和汇款服务,支持企业在全球范围内的业务扩展。
  • 对话场景文本数据

    1. 储蓄账户开设与管理
    • 客户:“你好,我想开一个储蓄账户。我需要了解一下开户的流程和需要的文件。另外,我还想知道你们的利率是多少。”
  1. 贷款服务

    • 客户:“我想咨询一下关于房屋贷款的事情。我刚看中了一套房子,想知道申请贷款的条件和大概的年利率。还有,贷款的最长期限可以是多久呢?”
  2. 信用卡服务

    • 客户:“嗨,我昨天收到了你们邮寄的新信用卡,但我不太清楚怎么激活它。还有,能不能顺便帮我检查一下我的信用额度,看看是否可以提高一些?”
  3. 投资与理财咨询

    • 客户:“你好,我最近在考虑一些投资理财的事情,但不太了解市场。你们能提供一些基础的股票或者基金投资建议吗?我主要是想为退休后做些准备。”
  4. 国际业务与汇款

    • 客户:“我需要汇一笔款项到国外的家人那里,想问一下你们的国际汇款手续费是多少?同时,我还想了解一下汇款的时效和汇率。”

这些对话示例可以作为您数据集中各个业务类型的模板。如果您需要更多示例或者有其他特定的要求,请随时告诉我。

2.数据集准备

加载训练集和测试集

3.Embedding创建过程

二、基于Function calling的意图识别过程

展示了大模型Function calling的过程

三、基于机器学习建模进行意图识别

在文本向量化之后可以采用机器学习来做意图识别

分别使用了随机森林、LGBM、XGB机器学习算法进行预测

四、过Few-Shot Prompt优化意图识别精度 “Few-Shot”(少样本学习)是机器学习领域的核心概念,让模型仅通过少量标注样本(通常是 1~50 个)就能快速学习并适应新任务,而无需传统深度学习所需的成千上万的标注数据。

五、基于文本搜索的有监督意图识别策略 核心目的是通过语义相似度挖掘辅助用户意图识别。计算训练集中所有文本嵌入向量两两之间的余弦相似度,生成一个 相似度矩阵 提取每个文本最相似的前3个文本索引

六、借助模型融合策略提升意图识别准确率 将以上所有方法得到的预测结果,合并集合去众数,相当于博彩众长,得出预测成功率100%的结果 LLM_handling.py 大模型预测,使用了few-shot prompt

machine_learning.py 机器学习模型预测 使用了随机森林、LGBM、XGB机器学习算法

embedding_handle.py 文本向量化 采用了OpenAI的Embedding模型,将文本转换为向量表示

model_fusion.py 模型融合,将以上所有方法得到的预测结果,合并集合去众数,相当于博彩众长,得出预测成功率100%的结果

About

围绕银行客户意图识别任务,通过文本嵌入(Embedding)技术提升用户咨询意图的分类准确率,使用qwen大模型

Resources

Stars

7 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages