(19)中华 人民共和国 国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202210100895.0
(22)申请日 2022.01.27
(71)申请人 腾讯科技 (深圳) 有限公司
地址 518057 广东省深圳市南 山区高新区
科技中一路腾讯大厦3 5层
(72)发明人 贺飞艳 邵纪春
(74)专利代理 机构 北京三高永信知识产权代理
有限责任公司 1 1138
代理人 李文静
(51)Int.Cl.
G06F 16/33(2019.01)
G06F 40/295(2020.01)
G06F 40/30(2020.01)
G06K 9/62(2022.01)
(54)发明名称
实体召回模型的样本生成方法、 装置、 设备
及存储介质
(57)摘要
本申请公开了一种实体召回模型的样本生
成方法、 装置、 设备及存储介质, 属于人工智能技
术领域。 所述方法包括: 获取属于同一目标领域
的多个查询文本语料, 以及 多个查询文本语料分
别对应的应答文本语料; 从查询文本语料对应的
应答文本语料中, 提取满足第一条件的至少一个
实体, 得到查询文本语料对应的实体集合; 对于
多个查询文本语料中的第一查询文本语料, 基于
第一查询文本语料以及第一实体集合, 生成第一
实体召回模 型的训练样本正例; 基于第一查询文
本语料, 以及第二实体集合, 生成第一实体召回
模型的训练样本负例。 本申请实现训练样本正例
和训练样 本负例的自动生 成, 提高实体召回模型
的训练效率。
权利要求书5页 说明书24页 附图14页
CN 114416929 A
2022.04.29
CN 114416929 A
1.一种实体召回模型的样本生成方法, 其特 征在于, 所述方法包括:
获取属于同一目标领域的多个查询文本语料, 以及多个所述查询文本语料分别对应的
应答文本语料;
从所述查询文本语料对应的应答文本语料中, 提取满足第一条件的至少一个实体, 得
到所述查询文本语料对应的实体集 合;
对于多个所述查询文本语料中的第 一查询文本语料, 基于所述第 一查询文本语料以及
第一实体集合, 生成所述第一 实体召回模型的训练样本正例; 其中, 所述第一 实体集合是指
所述第一 查询文本语料对应的实体集 合;
基于所述第 一查询文本语料以及第 二实体集合, 生成所述第 一实体召回模型的训练样
本负例; 其中, 所述第二 实体集合是指第二查询文本语料对应的实体集合, 所述第二查询文
本语料是多个所述 查询文本语料中, 除所述第一 查询文本语料之外的查询文本语料;
其中, 所述训练样本正例和所述训练样本负例用于对所述第一实体召回模型进行训
练, 完成训练的所述第一 实体召回模型用于确定属于所述目标领域的目标查询文本与目标
实体之间的语义匹配度。
2.根据权利要求1所述的方法, 其特征在于, 所述从所述查询文本语料对应的应答文本
语料中, 提取满足第一条件的至少一个实体, 得到所述查询文本语料对应的实体集合, 包
括:
对所述查询文本语料对应的应答文本语料进行分词处 理, 得到至少一个分词;
基于所述目标领域的实体库的查询实体, 从所述至少一个分词中确定满足所述第 一条
件的至少一个实体, 得到所述 查询文本语料对应的实体集 合。
3.根据权利要求2所述的方法, 其特征在于, 所述基于所述目标领域的实体库的查询实
体, 从所述至少一个分词中确定满足所述第一条件的至少一个实体, 得到所述查询文本语
料对应的实体集 合, 包括:
从所述至少一个分词中确定包 含于所述实体库的分词, 得到 至少一个候选实体;
分别获取 各个所述 候选实体在所述应答文本语料中的重要程度;
基于所述重要程度满足第二条件的候选实体, 得到所述查询文本语料对应的实体集
合。
4.根据权利要求3所述的方法, 其特征在于, 所述分别获取各个所述候选实体在所述应
答文本语料中的重要程度, 包括:
获取所述候选实体在所述至少一个分词中的出现次数, 所述出现次数与所述重要程度
呈正相关 关系;
或者,
获取所述候选实体在所述至少一个分词中的出现次数, 以及所述至少一个分词的总数
量; 根据所述出现次数和所述总 数量, 确定所述候选实体在所述应答文本语料中的出现频
率; 其中, 所述出现频率与所述重要程度呈正相关 关系;
或者,
获取所述候选实体在所述至少一个分词中的出现次数, 以及各个所述候选实体在所述
至少一个分词中的出现总次数; 根据所述出现次数和所述出现总次数, 确定所述候选实体
在多个所述 候选实体中的出现比例; 其中, 所述出现比例与所述重要程度呈正相关 关系。权 利 要 求 书 1/5 页
2
CN 114416929 A
25.根据权利要求2所述的方法, 其特 征在于, 所述方法还 包括:
获取属于所述目标 领域的至少一个候选查询实体;
分别获取 各个所述 候选查询实体在历史查询数据中的查询次数;
基于所述 查询次数满足第三条件的候选查询实体, 生成所述实体库中的查询实体;
其中, 所述实体库包括属于所述目标 领域的多个查询实体。
6.根据权利要求1所述的方法, 其特征在于, 所述第一实体集合中包含a个实体, a为正
整数; 所述第二实体集 合中包含b个实体, b为 正整数;
所述基于所述第 一查询文本语料以及第 一实体集合, 生成所述第 一实体召回模型的训
练样本正例, 包括:
基于所述第 一查询文本语料以及所述a个实体, 生成所述第 一实体召回模型的a个训练
样本正例;
其中, 所述a个训练样本正例中的一个训练样本正例, 包括所述第一查询文本语料以及
所述a个实体中的一个实体;
所述基于所述第 一查询文本语料以及第 二实体集合, 生成所述第 一实体召回模型的训
练样本负例, 包括:
基于所述第 一查询文本语料以及所述b个实体, 生成所述第 一实体召回模型的b个训练
样本负例;
其中, 所述b个训练样本负例中的一个训练样本负例, 包括所述第一查询文本语料以及
所述b个实体中的一个实体。
7.根据权利要求1至 6任一项所述的方法, 其特 征在于, 所述方法还 包括:
基于所述第一实体集合, 对各个其它查询文本语料对应的实体集合进行遍历, 得到各
个所述其它查询文本语料分别对应的实体重复结果; 其中, 所述实体重复结果用于指示所
述第一实体集 合, 与所述 其它查询文本语料对应的实体集 合之间是否存在相同的实体;
根据所述实体重复结果, 从各个所述其它查询文本语料中确定至少一个所述第 二查询
文本语料; 其中, 所述第二实体集 合与所述第一实体集 合之间不存在相同的实体。
8.根据权利要求1至 6任一项所述的方法, 其特 征在于, 所述方法还 包括:
将所述训练样本正例和所述训练样本负例分别输入至所述第 一实体召回模型, 得到所
述第一实体召回模型针对所述第一 查询文本语料的输出 结果;
基于多个所述 查询文本语料的输出 结果, 确定所述第一实体召回模型的损失;
根据所述第一实体召回模型的损失对所述第一实体召回模型进行参数调整。
9.根据权利要求8所述的方法, 其特征在于, 所述将所述训练样本正例和所述训练样本
负例分别输入至所述第一 实体召回模型, 得到所述第一 实体召回模型针对 所述第一查询文
本语料的输出 结果, 包括:
获取所述第一查询文本语料的文本语义向量; 以及, 分别获取所述第一实体集合的各
个正例实体的正例语义向量; 以及, 分别获取所述第二实体集合的各个负例实体的负例语
义向量;
基于所述文本语义向量和所述 正例语义向量, 确定第一语义距离;
基于所述文本语义向量和所述负例语义向量, 确定第二语义距离;
其中, 所述第 一查询文本语料的输出结果包括各个所述正例实体分别对应的第 一语义权 利 要 求 书 2/5 页
3
CN 114416929 A
3
专利 实体召回模型的样本生成方法、装置、设备及存储介质
文档预览
中文文档
44 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
温馨提示:本文档共44页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 SC 于 2024-02-18 22:33:42上传分享