搜索
首页科技周边人工智能应用自然语言处理进行保险文档聚类的策略与方法

译者 | 李睿

审校 | 孙淑娟

保险行业的自然语言处理(NLP)可以从混合机器学习/符号方法中受益,以提高可扩展性,同时利用高级符号推理。  

保险政策:通过混合自然语言处理进行文档聚类

保险文件和保单:复杂的用例  

众所周知,高达87%的数据科学项目未能从概念验证到生产;保险领域的自然语言处理(NLP)项目也不例外。他们必须克服不可避免地与这个空间及其错综复杂相关的一些困难。  

最主要的困难来自:  

  • 保险相关文件的复杂布局。
  • 缺乏带有相关注释的大量语料库。

布局的复杂性是如此之大,以至于相同的语言概念可以根据其在文档中的存放位置而极大地改变其含义和价值。  

以下看一个简单的例子:如果尝试构建一个引擎来识别政策中是否存在“恐怖主义”覆盖范围,将不得不分配一个不同的值,无论它被放置在:  

(1)申报页面的分限额部分。  

(2)政策的“排除”章节。  

(3)增加一个或多个保险的背书。  

(4)为该承保范围添加特定内容的背书。  

缺乏高质量、大小合适的带注释的保险文件语料库,这与注释此类复杂文件的固有难度以及注释数万份保单所需的工作量直接相关。  

而这只是冰山一角。除此之外,还必须考虑保险概念正常化的必要性。  

语言规范化:保险语言中一种无形但强大的力量  

在处理数据库时,概念的规范化是一个很好理解的过程。因为它是应用推理和提高注释过程速度的关键,它对于保险领域的NLP也是至关重要的。  

规范化概念意味着在相同的标签语言元素下分组,这可能看起来非常不同。虽然有很多例子,但最重要的例子来自针对自然灾害的保险单。  

在这种情况下,不同的子限制将应用于不同的洪水区。洪水风险最高的地区通常被称为“高风险洪水区”。这个概念可以表示为:  

(1)一级洪水区  

(2)洪水风险区(SFHA)

(3)洪水区A  

等等

实际上,任何保险承保范围都可以有许多术语,这些术语可以组合在一起,根据特定的地理区域及其固有风险,最重要的自然灾害承保范围甚至有两层或三层的区别(I、II和III)。

将其乘以能找到的所有可能的元素,变体的数量很快就会变得非常大。这导致机器学习注释器和自然语言处理(NLP)引擎在尝试检索、推断甚至标记正确信息时都陷入困境。  

新型的语言聚类:混合方法  

解决复杂自然语言处理(NLP)任务的更好方法是基于混合(机器学习/符号)技术,该技术通过基于机器学习的微语言聚类改进保险工作流程的结果和生命周期,然后由符号引擎继承。  

虽然在无监督学习方法中使用传统的文本聚类来推断语义模式,并将具有相似主题的文档、具有相似含义的句子等组合在一起,但混合方法有很大的不同。使用预定义的规范化值,通过在标记数据上训练的机器学习算法在粒度级别上创建微语言聚类。一旦推断出微语言聚类,它就可以用于进一步的机器学习活动或用于基于符号层驱动推理逻辑的混合管道。  

这符合传统的编程黄金法则:“分解问题”。解决复杂用例(就像保险领域中的大多数用例一样)的第一步是将其分解成更小、更容易接受的块。  

混合语言聚类可以完成哪些任务,可扩展性如何?

符号引擎通常被标记为极其精确但不可扩展,因为在处理训练阶段未见的情况时,它们不具备机器学习的灵活性。  

然而,这种类型的语言聚类通过利用机器学习来识别概念,从而解决这个问题,这些概念随后被传递到管道中接下来的符号引擎的复杂和精确逻辑。  

可能性是无穷无尽的:例如,符号步骤可以根据概念所属的文档段改变机器学习识别的内在价值。  

下面是一个使用“分段”(将文本分割成相关区域)的符号过程来了解如何使用机器学习模块传递的标签的示例。  

想象一下,模型需要理解是否某些保险范围被排除在100页保单之外。

机器学习引擎将首先将“艺术”(Arts)覆盖范围的所有可能变体聚集在一起:  

  • “精美艺术”(Fine Arts)
  • “艺术作品”(Work of Arts)
  • “艺术品”(Artistic Items)
  • “珠宝”(Jewelry)
  • 等等。

紧接着,管道的符号部分将检查“排除”部分是否提到了“艺术”(Arts)标签,从而了解该保险是否被排除在保单之外,或者是否被覆盖(作为次级限额清单的一部分)。

由于这一点,机器学习注释者不必担心根据“艺术”(Arts)变体在策略中的位置为所有“美术”变体指定不同的标签:他们只需要为其变体注释“艺术”(Arts)的规范化值,这将作为一个微语言集群。

复杂任务的另一个有用示例是数据聚合。如果混合引擎旨在提取特定覆盖范围的子限制,以及覆盖规范化问题,则需要处理额外的复杂层:用于聚合的语言项目的顺序。  

考虑一下,手头的任务不仅是提取特定覆盖范围的子限制,而且还提取其限定符(每次事件、聚合等)。这三个项目可以按几个不同的顺序排列:  

  • Fine Arts $100,000 Per Item
  • Fine Arts Per Item $100,000
  • Per Item $100,000 Fine Arts
  • $100,000 Fine Arts
  • Fine Arts $100,000

在聚合数据的同时利用所有这些排列可以显著增加机器学习模型的复杂性。另一方面,混合方法将让机器学习模型识别归一化标签,然后让符号推理根据来自机器学习部分的输入数据识别正确的顺序。  

这只是两个例子,表明可以在可扩展的机器学习算法之上应用无限数量的复杂符号逻辑和推理,以识别规范化的概念。

更易于构建和维护的可扩展的工作流程  

除了可扩展性之外,符号推理还为整个项目工作流程带来了其他好处:  

  • 无需为复杂任务实施不同的机器学习工作流,需要实施和维护不同的标签。此外,重新训练单个机器学习模型比重新训练多个模型更快,并且资源消耗更少。
  • 由于业务逻辑的复杂部分是以符号方式处理的,因此对数据注释者来说,将人工注释添加到机器学习管道要容易得多。
  • 由于上述相同的原因,测试人员也更容易直接为机器学习标准化过程提供反馈。此外,由于工作流的机器学习部分对语言元素进行了规范化,用户将有一个较小的标签列表来标记文档。
  • 符号规则不需要经常更新:经常更新的是机器学习部分,它也可以从用户的反馈中受益。

结语  

  • 保险领域复杂项目中的机器学习可能会受到影响,因为推理逻辑很难压缩为简单的标签;这也使注释者的生活更加困难。
  • 文本位置和推论可以极大地改变具有相同语言形式的概念的实际含义。
  • 在纯粹的机器学习工作流程中,逻辑越复杂,通常需要越多的训练文档来实现生产级准确度  。
  • 出于这个原因,机器学习需要数千(甚至数万)个预先标记的文档来构建有效的模型。
  • 采用混合方法可以降低复杂性:机器学习和用户的注释创建语言集群/标签,然后这些将用作符号引擎实现其目标的起点或构建块。
  • 用户的反馈一旦得到验证,就可用于重新训练模型,而无需更改最精细的部分(可由工作流的符号部分进行处理)。

原文标题:Insurance Policies: Document Clustering Through Hybrid NLP,作者:Stefano Reitano

以上是应用自然语言处理进行保险文档聚类的策略与方法的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:51CTO.COM。如有侵权,请联系admin@php.cn删除
解读CRISP-ML(Q):机器学习生命周期流程解读CRISP-ML(Q):机器学习生命周期流程Apr 08, 2023 pm 01:21 PM

译者 | 布加迪审校 | 孙淑娟目前,没有用于构建和管理机器学习(ML)应用程序的标准实践。机器学习项目组织得不好,缺乏可重复性,而且从长远来看容易彻底失败。因此,我们需要一套流程来帮助自己在整个机器学习生命周期中保持质量、可持续性、稳健性和成本管理。图1. 机器学习开发生命周期流程使用质量保证方法开发机器学习应用程序的跨行业标准流程(CRISP-ML(Q))是CRISP-DM的升级版,以确保机器学习产品的质量。CRISP-ML(Q)有六个单独的阶段:1. 业务和数据理解2. 数据准备3. 模型

自然语言生成任务中的五种采样方法介绍和Pytorch代码实现自然语言生成任务中的五种采样方法介绍和Pytorch代码实现Feb 20, 2024 am 08:50 AM

在自然语言生成任务中,采样方法是从生成模型中获得文本输出的一种技术。这篇文章将讨论5种常用方法,并使用PyTorch进行实现。1、GreedyDecoding在贪婪解码中,生成模型根据输入序列逐个时间步地预测输出序列的单词。在每个时间步,模型会计算每个单词的条件概率分布,然后选择具有最高条件概率的单词作为当前时间步的输出。这个单词成为下一个时间步的输入,生成过程会持续直到满足某种终止条件,比如生成了指定长度的序列或者生成了特殊的结束标记。GreedyDecoding的特点是每次选择当前条件概率最

2023年机器学习的十大概念和技术2023年机器学习的十大概念和技术Apr 04, 2023 pm 12:30 PM

机器学习是一个不断发展的学科,一直在创造新的想法和技术。本文罗列了2023年机器学习的十大概念和技术。 本文罗列了2023年机器学习的十大概念和技术。2023年机器学习的十大概念和技术是一个教计算机从数据中学习的过程,无需明确的编程。机器学习是一个不断发展的学科,一直在创造新的想法和技术。为了保持领先,数据科学家应该关注其中一些网站,以跟上最新的发展。这将有助于了解机器学习中的技术如何在实践中使用,并为自己的业务或工作领域中的可能应用提供想法。2023年机器学习的十大概念和技术:1. 深度神经网

基于因果森林算法的决策定位应用基于因果森林算法的决策定位应用Apr 08, 2023 am 11:21 AM

译者 | 朱先忠​审校 | 孙淑娟​在我之前的​​博客​​中,我们已经了解了如何使用因果树来评估政策的异质处理效应。如果你还没有阅读过,我建议你在阅读本文前先读一遍,因为我们在本文中认为你已经了解了此文中的部分与本文相关的内容。为什么是异质处理效应(HTE:heterogenous treatment effects)呢?首先,对异质处理效应的估计允许我们根据它们的预期结果(疾病、公司收入、客户满意度等)选择提供处理(药物、广告、产品等)的用户(患者、用户、客户等)。换句话说,估计HTE有助于我

LazyPredict:为你选择最佳ML模型!LazyPredict:为你选择最佳ML模型!Apr 06, 2023 pm 08:45 PM

本文讨论使用LazyPredict来创建简单的ML模型。LazyPredict创建机器学习模型的特点是不需要大量的代码,同时在不修改参数的情况下进行多模型拟合,从而在众多模型中选出性能最佳的一个。 摘要本文讨论使用LazyPredict来创建简单的ML模型。LazyPredict创建机器学习模型的特点是不需要大量的代码,同时在不修改参数的情况下进行多模型拟合,从而在众多模型中选出性能最佳的一个。​本文包括的内容如下:​简介​LazyPredict模块的安装​在分类模型中实施LazyPredict

Mango:基于Python环境的贝叶斯优化新方法Mango:基于Python环境的贝叶斯优化新方法Apr 08, 2023 pm 12:44 PM

译者 | 朱先忠审校 | 孙淑娟引言模型超参数(或模型设置)的优化可能是训练机器学习算法中最重要的一步,因为它可以找到最小化模型损失函数的最佳参数。这一步对于构建不易过拟合的泛化模型也是必不可少的。优化模型超参数的最著名技术是穷举网格搜索和随机网格搜索。在第一种方法中,搜索空间被定义为跨越每个模型超参数的域的网格。通过在网格的每个点上训练模型来获得最优超参数。尽管网格搜索非常容易实现,但它在计算上变得昂贵,尤其是当要优化的变量数量很大时。另一方面,随机网格搜索是一种更快的优化方法,可以提供更好的

如何使用PHP进行基本的自然语言生成如何使用PHP进行基本的自然语言生成Jun 22, 2023 am 11:05 AM

自然语言生成是一种人工智能技术,它能够将数据转换为自然语言文本。在当今的大数据时代,越来越多的业务需要将数据可视化或呈现给用户,而自然语言生成正是一种非常有效的方法。PHP是一种非常流行的服务器端脚本语言,它可以用于开发Web应用程序。本文将简要介绍如何使用PHP进行基本的自然语言生成。引入自然语言生成库PHP自带的函数库并不包括自然语言生成所需的功能,因此

人工智能自动获取知识和技能,实现自我完善的过程是什么人工智能自动获取知识和技能,实现自我完善的过程是什么Aug 24, 2022 am 11:57 AM

实现自我完善的过程是“机器学习”。机器学习是人工智能核心,是使计算机具有智能的根本途径;它使计算机能模拟人的学习行为,自动地通过学习来获取知识和技能,不断改善性能,实现自我完善。机器学习主要研究三方面问题:1、学习机理,人类获取知识、技能和抽象概念的天赋能力;2、学习方法,对生物学习机理进行简化的基础上,用计算的方法进行再现;3、学习系统,能够在一定程度上实现机器学习的系统。

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前By尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
1 个月前By尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
4 周前By尊渡假赌尊渡假赌尊渡假赌

热工具

MinGW - 适用于 Windows 的极简 GNU

MinGW - 适用于 Windows 的极简 GNU

这个项目正在迁移到osdn.net/projects/mingw的过程中,你可以继续在那里关注我们。MinGW:GNU编译器集合(GCC)的本地Windows移植版本,可自由分发的导入库和用于构建本地Windows应用程序的头文件;包括对MSVC运行时的扩展,以支持C99功能。MinGW的所有软件都可以在64位Windows平台上运行。

DVWA

DVWA

Damn Vulnerable Web App (DVWA) 是一个PHP/MySQL的Web应用程序,非常容易受到攻击。它的主要目标是成为安全专业人员在合法环境中测试自己的技能和工具的辅助工具,帮助Web开发人员更好地理解保护Web应用程序的过程,并帮助教师/学生在课堂环境中教授/学习Web应用程序安全。DVWA的目标是通过简单直接的界面练习一些最常见的Web漏洞,难度各不相同。请注意,该软件中

安全考试浏览器

安全考试浏览器

Safe Exam Browser是一个安全的浏览器环境,用于安全地进行在线考试。该软件将任何计算机变成一个安全的工作站。它控制对任何实用工具的访问,并防止学生使用未经授权的资源。

适用于 Eclipse 的 SAP NetWeaver 服务器适配器

适用于 Eclipse 的 SAP NetWeaver 服务器适配器

将Eclipse与SAP NetWeaver应用服务器集成。

mPDF

mPDF

mPDF是一个PHP库,可以从UTF-8编码的HTML生成PDF文件。原作者Ian Back编写mPDF以从他的网站上“即时”输出PDF文件,并处理不同的语言。与原始脚本如HTML2FPDF相比,它的速度较慢,并且在使用Unicode字体时生成的文件较大,但支持CSS样式等,并进行了大量增强。支持几乎所有语言,包括RTL(阿拉伯语和希伯来语)和CJK(中日韩)。支持嵌套的块级元素(如P、DIV),