登录 注册 返回主站
F10资料 推荐产品 炒股必读

百分苏海波:知识图谱落地有三大前提条件 2B领域需要行业知识图谱

  • 作者:弱市不操作
  • 2019-02-19 08:53:35
  • 分享:

关注爱分析ifenxi

每天洞察新趋势

  ——————

  从大数据到认知智能百分如何构建知识图谱服务传统企业?调研|李喆撰写|李喆

  回2018年,当人工智能经历了语音识别、图像识别两轮热炒后,知识图谱等认知智能成为最火热的人工智能细分领域。在这波浪潮中,大数据公司纷纷踏入认知智能领域。

  当其他公司还在大谈认知智能概念时,百分已经基于NLP、知识图谱等技术在公安、媒体、快消零售等领域出现落地案例。

01

基于认知智能技术

构建全新决策引擎

  百分作为一家大数据和认知智能领域的标杆公司,底层大数据基础平台产品BD-OS经过多年打磨,可以提供很强的数据接入、存储、治理等数据处理环节支持能力,从而支持百分在公安、政务、快消零售、融媒体等多个领域成熟的落地应用。

  但在百分与各个领域客户深度合作过程中,无论是客户还是百分自身,都产生了新的需求。

  第一,传统数据仓库更多是对结构化数据处理能力强,对非结构化数据处理能力较弱,但大数据深度落地行业时,需要进行行业深度数据挖掘,处理非结构化数据能力不可或缺。

  第二,大数据落地应用从监测、洞察逐步迈向分析、决策过程中,不再是像传统BI一样,给出报表和分析结果,由业务人员做进一步决策,而是机器本身要能做一些简单决策,需要机器更加智能,能够理解业务逻辑。

  第三,当大数据、AI更加贴近应用时,客群正逐步由IT人员变成业务人员,需要降低大数据、AI的使用门槛,让技术平民化,获得更好的用户体验。

  基于上述需求的出现,百分逐步将NLP、知识图谱等技术加入到决策引擎中,从而满足不断产生的新需求。

  针对数据分析工具,百分在传统BI分析工具中加入了智能交互分析,分析人员不用再写SQL语句,直接用自然语言来实现询,这进一步降低了分析工具的使用门槛。

  在落地行业应用中,百分将动态知识图谱技术应用到公安、政府等行业,从而降低了公安等行业的数据治理工作量,能够实现快速对异构数据的处理。同时,NLP技术在零售快消领域的落地,可以通过对海量网站上用户评价等本数据进行处理,从而更加精细地分析用户行为,指导零售客户更好地了解用户反馈,做产品改进。

02

应用先行,百分深度迁移学习将数据标注成本降低为先的10%

  2018年知识图谱技术大火,很多传统大型企业都在试水知识图谱,但在实际落地时遇到了不少挑战。

  构建知识图谱的三要素是实体、属性和关系,其中第一步是定义实体,而定义实体必须要与上层应用结合,从应用出发去考虑实体建立方式,同时必须与业务人员配合,一同完成实体定义。如果不考虑应用场景,直接从构建知识图谱出发,那么,当实体和关系过少则无法满足应用需求,当实体和关系过多则模型构建成本过高。

  百分在落地知识图谱时,也更多的采取应用先行的策略。以公安行业为例,百分通过和省市级公安局合作,按照“人、物、组织、时空、虚拟标识”等维度将公安领域的数据映射到数字世界,实现了公安领域的动态知识图谱构建。

  这其中,百分的优势在于,一方面,百分从2013年开始服务传统企业,对传统企业的应用场景相对了解,同时与很多企业建立了长期合作关系,双方基于垂直场景定义实体、构建知识图谱的路径是可行的。

  另一方面,依托百分的全栈大数据能力,尤其在底层数据平台的能力,经过多年的积累,数据治理经验丰富,因此可以很快接入构建知识图谱所需的各类数据。

  除了上述两,百分在2018年发布的深度迁移学习技术同样起到了关键作用。构建知识图谱中数据标注会耗费大量工作和成本,在许多专业的垂直领域,必须要通过行业专家来实现数据标注,这样就会带来标注成本的显著提升。

  百分通过深度迁移学习技术,将数据标注成本降低为先的10%以下,分析效率大幅提升,更好地支持公安、零售等领域的行业知识图谱落地。

  近期,爱分析对百分首席算法科学家苏海波进行访谈,他对知识图谱当前落地场景、面临的挑战,以及百分在知识图谱领域的实践进行了阐述,现将访谈内容分享。

03

大数据渗透高的行业

更容易构建知识图谱

  爱分析:我们会把NLP和知识图谱结合起来,从您的角度来,知识图谱和NLP存在哪些差异?

  苏海波:二者有关联也有差别,主要体现在于构建知识图谱的过程中。公安领域主要是用知识图谱技术基于结构化数据来构建,其实跟NLP关系不大。但在公检法、媒体出版、快消零售、司法等诸多领域,还需要很多的非结构化数据来构建知识图谱,当这种非结构化数据去构建实体和关系的时候,就需要用到NLP技术,才能把知识图谱构建出来。

  爱分析:构建知识图谱,定义好实体、属性和关系是由百分决定的?

  苏海波:这些更多的是由业务方来决定的。业务方要去构建一个知识图谱的时候,首先要定义好Schema,譬如公安领域要定义好人、物品、组织等,每个实体还会有对应的属性,比如人的性别、年龄、学历等。

  公安的知识图谱是对现实世界中实体和实体之间关系的刻画。比如人和人之间会有关系,同学关系、家属关系、同事关系;人和物之间也有关系,比如人和车、人和电话等。

  在构建知识图谱之前,一定要先想好应用,要解决什么问题。知识图谱现在应用包括搜索、推荐、问答、关联分析、决策等等几种典型的,例如可以将知识图谱的关联分析应用在公安领域。

  想好应用,定好Schema之后,接下来要准备数据,比如公安领域可能会有运营商的数据、人口的身份数据、互联网上抓取的数据等。然后,按照定义的Schema,从非结构化数据和结构化数据中,抽取出各种各样的实体、属性和关系,进行知识融合,存储到图数据库中,去支持上面各种各样的应用。

  爱分析:像公安、媒体、司法等客户,他们习惯于一个应用建立一个知识图谱,还是会整体建立统一知识图谱,支撑全部应用场景?

  苏海波:在公安和司法行业,如果所有应用依赖的数据和知识是复用的,它们可以共享一套知识图谱。而在媒体出版行业,不同的应用场景,构建的知识图谱可能会有区别。

  爱分析:哪些行业是做数据治理后,很容易就会产生初步效果的?像医疗这种因为数据治理效果不明确,所以从数据治理切入不太容易。

  苏海波:投入产出比较好的第一个肯定是金融行业,可以基于知识图谱做风控,现在落地案例会相对多一些。

  第二个是公安行业,公安数据是要细化到每个人身上,把人的所有数据关联起来,辅助去做案件推断,它在知识图谱的落地只是时间问题。国内公安现状是,数据割裂比较厉害,目前阶段都在花比较多的时间做知识图谱,这对以后肯定非常有价值。

  爱分析:所以,本质上还是大数据渗透比较好的行业,用NLP把底层数据治理做得更好,这种客户会更愿意接受?

  苏海波:对,我们在做的零售快消行业,也是基于海量数据做分析,比如电商数据、微博数据、帖子数据等,从中分析大家讨论的哪个产品、哪个品牌、哪个型号、哪种属性以及对应的情感倾向,本质上采用的也是知识图谱技术。基于这些数据,就可以知道消费者对品牌、型号等产品非常细粒度的评价,去指导产品的改进方向。

04

知识图谱落地有三大前提条件,2B领域需要行业知识图谱

爱分析:基于知识图谱会出现一些新的公司吗?

  苏海波:知识图谱领域,目前没有到哪家公司纯靠技术,就能很好的在行业落地。

  第一,知识图谱落地不单单只是个技术问题。我们在跟很多客户聊的时候,他经常会说你帮我建个知识图谱,但对知识图谱具体解决什么业务问题,基于什么数据来做,到底能够构建成什么样,其实很多时候客户是不太清晰的。

  第二,很多技术供应商虽然有NLP技术,或者知识图谱技术,但他不懂客户的业务,对知识图谱真正怎么落地、要满足什么条件才能落地,很多企业对这些认知还不太明确。

  知识图谱项目落地要满足一些前提条件。

  第一,应用场景要具体明确,知识图谱通常的应用包括搜索、问答、关联分析、决策分析等,应用先别想得太复杂,越简单越具体的应用,更加容易落地。对于应用场景没有想清楚的知识图谱项目,往往很难落地取得成功。

  第二,应用依赖的领域知识有清晰的边界,指的是应用依赖的领域知识能够由客户内部的数据源结合外部的数据源进行覆盖,这些数据源越具体越好。

  第三,需要人工介入的工作量是可控的,如果应用场景对于知识图谱有苛刻的质量需求,例如医疗行业中药物对应的病症是不能出错的,或者是知识图谱构建的粒度很细等等,这些都需要较多人力介入,可控是指对应的人力成本不能超过客户的承受范围。

  爱分析:刚才提到的知识图谱应用,哪些会相对困难一些?

  苏海波:知识图谱早期是由Google提出,目的是提升搜索效率,直接到对应的结果。所有互联网公司,只要它们有足够的用户量和流量,结合知识图谱技术对搜索、推荐的效果进行提升,这是非常有价值的。

  对传统行业来说,知识图谱一定要考虑性价比,之所以现在知识图谱在各个领域落地案例不多,是因为很多行业客户对知识图谱能解决哪些问题,满足哪些条件,其实是不太清晰的。第二,很多技术供应商也不是很清晰,一上来先是构建一个大的知识图谱,然后再去想应用,这种项目通常会失败。

  目前从实际落地来,互联网公司的搜索、推荐、问答等场景落地会比较容易,金融行业也在逐渐落地,其他行业如公检法、媒体出版等等,相对会慢一些。

  在知识图谱的几类应用中,决策是最难的,基于认知智能做决策一直以来是人工智能想要达到的目标。

爱分析:搜索、推荐为什么可以做成比较通用的场景?

  苏海波:因为这种是2C的,用户有这个需求,在流量足够的情况下,它的投入产出比很高。但对2B的客户来说,能够带来的价值提升是个疑问,企业需要考虑投入的性价比。

爱分析:知识图谱的构建成本大概是怎么测算的?

  苏海波:如果只算从数据中抽取出实体、属性、关系的成本,跟实体、属性、关系的数量有特别大的关系,假设要构建模型,先要做数据标柱,每种模型需要5000条标注数据,哪怕只有100种实体、属性和关系,就需要50万标注数据。按照现在的标注速度,需要几十个人月的专家标注,标注好数据之后,还需要算法工程师训练和调优模型,成本就会非常高。

  这还是建立在应用场景、数据想清楚的前提下,在实际落地中,应用场景和数据还会遇到很多问题。

爱分析:迁移学习对数据标注这个事情有哪些提升?

  苏海波:举个例子,深度学习需要的标注量会特别大,例如做情感分析,需要好几万的标注数据才能达到80%左右的效果;而用深度迁移学习,可能只需要500条数据就能达到同样的效果,这是NLP技术一个质的突破。

  深度迁移学习的核心思想是结合一个通用学习任务,得到一个预训练模型,然后将这个预训练模型应用到各个实际要解决的问题,这样就能大大减少标注的数据样本数。这个技术最早应用在图像领域,去年在NLP领域有了大的突破。

05

认知智能的两大内核:语言

认知和数据认知

  爱分析:百分也在提认知智能,我们总觉得大数据和认知智能的差别不大,这本身就是一回事,还是存在一些差异?

  苏海波:大数据和认知智能是有差别的,大数据更多指的是海量数据的采集、接入、存储、分析、询等,尤其涉及到海量数据的数据处理,包括Hadoop、Spark、Storm等大数据组件的使用。当然大数据里面还包括关联分析、数据挖掘和机器学习,以及利用大数据去做预测。

  认知智能的核心是两部分,第一是对语言的认知,涉及到如何进行语言的自然化理解,能够跟人类进行交互,例如智能问答、BI决策的智能交互分析等。第二是要能够对数据进行认知和理解,能够从海量的数据当中抽取结构化的知识和知识之间的关系,并辅助人进行决策,需要用到自然语言处理和知识图谱等技术。

  现在感知智能方面,无论图像识别还是语音识别,目前都已经算是做得比较好了。下一个黄金十年应该就是认知智能,有很多的问题需要解决,而且现在到它离我们日常生活也越来越近了,比如智能交互,现在我们身边各种APP、音箱的智能交互已经越来越普及了。

  爱分析:认知智能在各个行业的渗透,它是必须依靠大数据渗透到一定程度之后,认识智能才能爆发吗?还是两者可以同步的进行?

  苏海波:认知智能的渗透比大数据挑战会更大一些。因为大数据的应用场景是非常广的,哪怕做一个大数据平台、做个数仓都可以说是大数据。从2018年开始,很多的客户希望往人工智能上面走,其实认知智能就是一个非常重要的方向。

  爱分析:来大数据项目都是以项目交付作为结束,未来认知智能会不会在商业上产生一些新的模式?

  苏海波:最开始是定制化的项目交互,也就是1.0状态。之后在项目中抽取出一些共性的需求,做成SaaS类的服务,这是2.0。3.0是我们开始跟客户联合运营一些系统,采用销售分成的模式,例如我们的某些大客户有很好的资源,比如人民出版社,我们和他们联合运营了一款党员小书包APP。简单来说,就是在客户有资源的情况下,我们相当于客户的技术合伙人,联合来运营一个产品。

  爱分析:百分2018年在哪些行业落地进展更快一些?

  苏海波:从发展速度来,公检法发展速度应该是最快的,公安领域在2018年将大数据作为非常重要的战略方向,大数据的需求非常旺盛,发展很快。其它行业,包括零售快消、媒体出版、政务等领域也齐头并进,不断地有项目案例落地。在2019年,这几个行业也是我们重发力的方向。

榜单

房地产服务TOP64|金融科技TOP60

保险科技TOP50|医疗科技TOP50

零售科技TOP50|基础云服务TOP30

汽车科技TOP50|财富管理TOP42

大数据TOP72|家居家装TOP36

企业服务TOP100|教育科技TOP50

新龙榜TOP125|新零售TOP100

咨询、合作、进群,请联系爱分析小秘

微ifenxi419


温馨提醒:用户在赢家聊吧发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。本文中出现任何联系方式与本站无关,谨防个人信息,财产资金安全。
点赞5
发表评论
输入昵称或选择经常@的人
聊吧群聊

添加群

请输入验证信息:

你的加群请求已发送,请等候群主/管理员验证。

时价预警 查看详情>
  • 江恩支撑:6.06
  • 江恩阻力:6.82
  • 时间窗口:2024-05-08

数据来自赢家江恩软件>>

本吧详情
吧 主:

虚位以待

副吧主:

暂无

会 员:

37人关注了该股票

功 能:
知识问答 查看详情>