你有没有想过Alexa、ChatGPT或客服聊天机器人是如何理解你的口语或书面评论并作出适当回应的?NLP和NLU是人工智能(AI)的两个子领域,有助于理解和回应人类语言。这两种技术对各行业的公司都有好处。
虽然NLP和NLU可能会相互混淆,但它们并不一样,它们之间的差异使得一种能力在特定的用例中比另一种更重要(见图1)。因此,NLP和NLU之间的区别可以影响企业应该与哪些技术供应商合作,以开发合适的人工智能解决方案,实现特定工作的自动化。
为了减少信息差距,在这篇文章中,我们将介绍:
- NLP的定义和原则。
- NLU的定义和原则。
- 在介绍了NLU和NLP这两个概念之后,NLU和NLP的主要区别。
- 什么时候NLU或NLP的能力对于特定的用例变得更加重要。
- 来自5个不同行业的前10个NLP与NLU用例的比较。
图1:NLP和NLU
自然语言处理(NLP)的定义和原则
自然语言处理(NLP)是人工智能的一个领域。它使计算机能够以一种有意义的方式评估和组织非结构化的文本或语音输入,相当于人类的口头和书面语言。
当涉及到完成语言翻译或解释调查表以确定适合客户的抵押贷款计划等任务时,NLP模型受益于机器学习和深度学习技术。
设计有效的NLP模型有赖于一个多学科的团队,该团队由以下人员组成:
- 计算机科学家
- 数据科学家
- 和语言学家。
由于人类的语言是复杂的,标准化的输入对于NLP训练是必要的。数据预处理被用来创建标准化的输入,包括以下技术:
- 实体识别(链接)
- 符号化
- 语音标签等等。
数据预处理的目的是将自然语言内容划分为更小、更简单的部分。然后,ML算法可以检查这些内容以发现这些较小部分之间的关系、联系和背景。考虑图2作为一个例子。NLP将巴黎与法国、阿肯色州和巴黎-希尔顿联系起来,也将法国与法国和法国国家足球队联系起来。因此,NLP模型可以得出结论,”巴黎是法国的首都” 这句话指的是法国的巴黎,而不是巴黎希尔顿或阿肯色州的巴黎。
图2:数据预处理的例子。
自然语言理解(NLU)的定义和原则
自然语言理解(NLU),是NLP的一个子领域。它是意图识别背后的技术。NLU模型使用句法和语义分析来理解人类语言的实际含义和情感。因此,NLU模型会做出反应:
- 句子的语法结构。
- 人们的情绪状况。
- 措辞选择。
- 讽刺和隐喻的解释。
- 语气和口音。
意图识别和情感分析是NLU的主要成果。因此,它帮助企业了解客户需求,并为他们提供个性化的产品。
NLU和NLP之间的主要区别是什么?
NLP模型将非结构化的数据转化为结构化的数据。因此,算法会搜索关联和相关性来推断句子最可能的含义,而不是理解人类语言的真正含义。
然而,NLU让计算机理解句子的 “情感” 和 “真实含义”。
作为一个类比,我们可以使用翻译和转写之间的区别:
- 翻译是NLP模型的工作。他们对输入的内容进行逐字翻译。
- 创作是NLU模型所做的事情。重写输入文本,使许多语言的使用者能够完整地理解它。在某些情况下,Transcreation与逐字翻译完全相反(例如在翻译谚语时)。
让我们用一个著名的NLP模型 “谷歌翻译 “来说明这个例子。如图3所示,谷歌将土耳其谚语 “Damlaya damlaya göl olur. “翻译为 “一滴一滴,变成了一个湖”。这是对该句子的精确逐字翻译。
这句谚语的确切含义是:”随着时间的推移,即使是很小的一笔钱也会积攒成财富。”或者对于以英语为母语的人来说,”Many a mickle makes a muckle。”。一个训练有素的NLU模型可能会以这些方式进行翻译。
图3:NLP模型逐字翻译的不充分性。
哪种自然语言能力在什么时候对企业更关键?
如果人们倾向于使用更常规的句子或暴露出一种结构,如多选题,那么情绪分析和意图识别对于改善用户体验是没有必要的。因此,一个NLP模型也许能够实现流程的自动化。
不过,如果用户的情绪变化很大,或者人工智能模型接触到以各种方式解释同一概念,那么NLU技能是必要的。
10大NLP与NLU用例
在本节中,我们将介绍排名前10的用例,其中5个与纯粹的NLP能力有关,其余5个需要NLU来协助计算机有效地实现这些用例的自动化。图4描述了我们的5个用例样本,在这些用例中,企业应该倾向于NLP而不是NLU,反之亦然。
图4:NLP与NLU用例比较。
电子商务用例
1. 常问问题(FAQ)聊天机器人
使用常见问题聊天机器人,企业可以减少他们的客户关怀工作量(见图5)。从定义上讲,FAQ是一个常问问题的集合。因此,它们不需要同时具备出色的NLU技能和意图识别。
图5:一个正在运行的FAQ聊天机器人的例子(Source: Haptik)
2. 通过自然语言发现产品
有时人们知道他们在寻找什么,但不知道货物的确切名称。在这种情况下,实体店的销售人员曾经解决我们的问题,向我们推荐合适的产品。在对话式商务时代,这样的任务由销售聊天机器人完成,它能理解用户的意图,并通过自然语言帮助客户发现适合他们的产品(见图6)。
在数字渠道上模仿销售人员无疑需要一个训练有素的NLU。
图6:通过自然语言发现产品的真实例子(Source: Haptik)
医疗保健行业用例
3. 对病人的诊断
关于人们的习惯和健康问题的调查问卷在进行诊断时很有见地。这种答案是可预测的,所以NLP模型可以解释它们。因此,它们有助于确定病人的健康问题。
4. 检测有关健康服务的欺诈性索赔
虚假的病人评论会伤害企业和寻求治疗的人。情感分析,即NLU,可以通过识别文本的情感特征来定位欺诈性评论。例如,夸张的语句和过多的标点符号可能表明有欺诈性的评论。
保险业用例
5. 核保(风险评估)
保险公司使用问卷调查来计算保费成本。例如,客户想要承保的房屋地址对核保过程有影响,因为它与盗窃风险有关系。NLP驱动的机器可以自动从问卷调查表中提取数据,而风险可以被无缝计算。
6. 索赔处理
当不幸的事件发生时,客户会提出索赔以寻求赔偿。因此,保险公司应该考虑到索赔处理的情感背景。因此,如果保险公司选择用聊天机器人自动处理索赔,他们必须确定聊天机器人的情感和NLU技能。
银行业用例
7. 计算抵押贷款利率
确定抵押贷款利率的程序与确定保险风险的程序相当。表格给了银行有用的信息。可以使用NLP模型从这些表格中检索信息。正如下面的视频所展示的,抵押贷款聊天机器人也可以收集、验证和评估数据。
8. 财富管理助理
在数字化之前,人们去金融机构,提供有关他们的信息:
- 期望的回报。
- 风险态度
- 期望的投资期。
大多数时候,金融顾问试图理解客户所寻找的东西,因为客户不使用投资的技术行话。如今,财富管理聊天机器人也可以做同样的事情。由于客户的输入不是标准化的,聊天机器人需要强大的NLU能力来理解客户。
酒店&旅游业用例
9. 自动化客户服务任务
在预订酒店之前,客户希望了解更多关于潜在住宿的情况。人们因此开始询问关于游泳池、晚餐服务、毛巾和其他事情的问题。这些任务可以由NLP驱动的酒店聊天机器人自动完成(见图7)。
图7:聊天机器人为酒店自动提供客户服务任务(Source: Haptik)
10. 个性化的旅游推荐
通过考虑客户的习惯和爱好,现在的聊天机器人向客户推荐度假套餐(见图8)。由于这不是一个标准化的对话,所以需要NLU的能力。
图8:聊天机器人推荐定制的假期(Source: Haptik)
注意:对于我们上面所涉及的每一个应用,NLP与NLU的组合都能提供更好的结果。
要了解关于NLP的未来预期,你可以阅读关于NLP未来的五大预期的文章。