(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210076473.4 (22)申请日 2022.01.21 (71)申请人 深圳壹账通科技 服务有限公司 地址 518000 广东省深圳市前海深港合作 区前湾一路1号A栋201室 （入驻深圳市 前海商务秘书 有限公司） (72)发明人 陈家豪　徐亮　 (74)专利代理 机构 上海汉之律师事务所 31378 专利代理师 冯华 (51)Int.Cl. G06F 16/33(2019.01) G06F 16/35(2019.01) G06F 16/36(2019.01) G06F 40/30(2020.01) G06N 3/04(2006.01)G06N 7/00(2006.01) (54)发明名称 基于参数的知识注入方法、 装置、 设备及介 质 (57)摘要 本发明涉及人工智能技术领域， 提供一种基 于参数的知识注入方法、 装置、 设备及介质。 该方 法包括获取目标领域的三元 组； 根据预定义模板 将所述三元 组转换为纯文本格式语句； 随机遮蔽 所述纯文本格式语句中所述纯文本格式语句所 对应三元组的三个元素中的一个来构造辅助语 句， 并将所述辅助语句和遮蔽位置处的答案作为 注入数据； 将所述辅助语句输入到知识注入模 型， 并利用知识注入模型来预测遮蔽位置的答 案， 以利用所述知识注入模型的参数记忆知识。 本申请摆脱了三元组存储的限制， 可以批量存储 非结构化数据， 整个过程全自动而不用人去整 理， 极大地增 加了所存 储知识的总量。 权利要求书2页 说明书11页 附图4页 CN 114490936 A 2022.05.13 CN 114490936 A 1.一种基于参数的知识 注入方法， 其特 征在于， 包括： 获取目标 领域的三元组； 根据预定义模板将所述 三元组转换为纯文本格式语句； 随机遮蔽所述纯文本格式语句中所述纯文本格式语句所对应三元组的三个元素中的 一个来构造 辅助语句， 并将所述辅助语句和遮蔽位置处的答案作为注入数据； 将所述辅助语句输入到知识注入模型， 并利用 知识注入模型来预测遮蔽位置的答案， 以利用所述知识 注入模型的参数记 忆知识。 2.根据权利要求1所述的基于参数的知识注入方法， 其特征在于， 所述获取目标领域的 三元组包括， 获取目标 领域的非结构化数据， 并抽取 出所述非结构化数据中的三元组。 3.根据权利要求1所述的基于参数的知识注入方法， 其特征在于， 所述获取目标领域的 三元组包括： 获取目标 领域的非结构化数据； 根据预定义的关系集合， 在所述非结构化数据中利用关系抽取算法去抽取所述关系集 合中的关系； 利用序列标注的方法在所述非结构化数据中获取抽取到的每个关系关联的两个实体 来构造三元组。 4.根据权利要求3所述的基于参数的知识注入方法， 其特征在于， 根据 预定义的关系集 合， 在所述非结构化数据中利用关系抽取算法来抽取 所述关系集 合中的关系， 包括： 根据预定义的关系集合， 在所述非结构化数据中利用Bert算法来抽取所述关系集合中 的关系。 5.根据权利要求1所述的基于参数的知识注入方法， 其特征在于， 将所述辅助语句输入 到知识注入模型， 并利用知识注入模型来预测遮蔽位置的答案， 以利用所述知识注入模型 的参数记下知识中， 所述知识 注入模型为Transformer模型。 6.根据权利要求1所述的基于参数的知识注入方法， 其特征在于， 所述获取目标领域的 三元组包括， 获取 所述目标 领域的结构化数据， 并所述结构化数据的三元组。 7.一种基于参数的知识 注入装置， 其特 征在于， 所述基于参数的知识 注入装置包括： 数据获取模块， 用于获取目标 领域的三元组； 文本转换模块， 用于根据预定义模板将所述 三元组转换为纯文本格式语句； 辅助语句 构造模块， 用于随机遮蔽所述纯文本格式语句中所述纯文本格式语句所对应 三元组的三个元素中的一个来构造辅助语句， 并将所述辅助语句和遮蔽位置的答案作为注 入数据； 知识注入模块， 用于将所述辅助语句输入到知识注入模型， 并利用 知识注入模型来预 测遮蔽位置的答案， 以利用所述知识 注入模型的参数记 忆知识。 8.根据权利要求7所述的基于参数的知识注入装置， 其特征在于， 所述数据获取模块包 括： 非结构化数据获取模块， 用于获取目标 领域的非结构化数据； 关系抽取模块， 用于根据预定义的关系集合， 在所述非结构化数据中利用关系抽取算 法去抽取 所述关系集 合中的关系； 三元组构造模块， 用于利用序列 标注的方法在所述非结构化数据中获取每个关系关联权　利　要　求　书 1/2 页 2 CN 114490936 A 2的两个实体来构造三元组。 9.一种电子设备， 其特征在于， 包括存储器、 处理器及存储在存储器上并可在处理器上 运行的计算机程序， 其特征在于， 所述处理器执行所述计算机程序时实现权利要求1至7中 任一项所述方法的步骤。 10.一种计算机可读存储介质， 其上存储于计算机程序， 其特征在于， 所述计算机程序 被处理器执行时实现权利要求1至7中任一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 114490936 A 3