Apache Doris 助力网易严选打造精细化运营 DMP 标签系统

作者: ApacheDoris

导读:如果说互联网的上半场是粗狂运营,那么在下半场,精细化运营将是长久的主题,有数据分析能力才能让用户得到更好的体验。当下比较典型的分析方式是构建用户标签系统,本文将由网易严选分享 DMP 标签系统的建设以及 Apache Doris 在其中的应用实践。

作者刘晓东 网易严选资深开发工程师


如果说互联网的上半场是粗狂运营,因为有流量红利不需要考虑细节。那么在下半场,精细化运营将是长久的主题,有数据分析能力才能让用户得到更好的体验。当下比较典型的分析方式是构建用户标签系统,从而精准地生成用户画像,提升用户体验。今天分享的主题是网易严选 DMP 标签系统建设实践,主要围绕下面五点展开: 平台总览 标签生产 :标签圈选\&生产链路 标签存储:存储方式\&存储架构演进 高性能查询 未来规划

平台总览

DMP 作为网易严选的数据中台,向下连接数据,向上赋能业务,承担着非常重要的基石角色。 DMP 的数据来源主要包括三大部分:* 自营平台的 APP、小程序、PC 端等各端的业务日志 网易集团内部共建的一些基础数据 京东、淘宝、抖音等第三方渠道店铺的数据

通过收集、清洗,将以上数据形成数据资产沉淀下来。DMP 在数据资产基础上形成了一套自己的标签产出、人群圈选和用户画像分析体系,从而为业务提供支撑,包括:智能化的选品、精准触达以及用户洞察等。总的来说,DMP 系统就是构建以数据为核心的标签体系和画像体系,从而辅助业务做一系列精细化的运营。

了解 DMP 系统,先从以下几个概念开始。 标签:对于实体(用户、设备、手机号等)特征的描述,是一种面向业务的数据组织形式,比如使用:年龄段、地址、偏好类目等对用户实体进行刻画。 人群圈选:通过条件组合从全体用户中圈选出一部分用户,具体就是指定一组用户标签和其对应的标签值,得到符合条件的用户人群。 画像分析:对于人群圈选结果,查看该人群的行为情况、标签分布。例如查看【城市为杭州,且性别为女性】的用户在严选 APP 上的行为路径、消费模型等。


严选标签系统对外主要提供两大核心能力:

  1. 标签查询:查询特定实体指定标签的能力,常用于基本信息的展示。
  2. 人群圈选:分为实时和离线圈选。圈选结果主要用于: 分组判断:判读用户是否在指定的一个或多个分组,资源投放、触点营销等场景使用较多。 结果集拉取:拉取指定的人群数据到业务方系统中,进行定制化开发。 画像分析:分析特定人群的行为数据,消费模型等,进行更精细的运营。


整体的业务流程如下:*



首先定义标签和人群圈选的规则; 定义出描述业务的 DSL 之后,便可以将任务提交到 Spark 进行计算; 计算完成之后,将计算结果存储到 Hive 和 Doris; 之后业务方便可以根据实际业务需求从 Hive 或 Doris 中查询使用数据


DMP 平台整体分为计算存储层、调度层、服务层、和元数据管理四大模块。*

所有的标签元信息存储在源数据表中;调度层对业务的整个流程进行任务调度:数据处理、聚合转化为基础标签,基础标签和源表中的数据通过 DSL 规则转化为可用于数据查询的 SQL 语义,由调度层将任务调度到计算存储层的 Spark 进行计算,将计算结果存储到 Hive 和 Doris 中。服务层由标签服务、实体分组服务、基础标签数据服务、画像分析服务四部分组成。


标签的生命周期包含5个阶段:* 标签需求:在此阶段,运营提出标签的需求和价值预期,产品评估需求合理性以及紧迫性。 排期生产:此阶段需要数据开发梳理数据,从 ods 到 dwd 到 dm 层整个链路,根据数据建立模型,同时数据开发需要做好质量监控。 人群圈选:标签生产出来之后进行应用,圈选出标签对应的人群。 精准营销:对圈选出来的人群进行精准化营销。 效果评估:最后产品、数据开发和运营对标签使用率、使用效果进行效果评估来决定后续对标签进行改进或降级。

总的来说,就是以业务增长为目标,围绕标签的生命周期,投入合理的资源,最大化运营效果。

标签生产

接下来介绍标签生产的整个过程。*


标签的数据分层:* 最下层是 ods 层,包括用户登录日志、埋点记录日志、交易数据以及各种数据库的 Binlog 数据。 对 ods 层处理后的数据到达 dwd 明细层,包括用户登录表、用户活动表、订单信息表等。 dwd 层数据聚合后到 dm 层,标签全部基于 dm 层数据实现。

目前我们从原始数据库到 ods 层数据产出已经完全自动化,从 ods 层到 dwd 层实现了部分自动化,从 dwd 到 dm 层有一部分自动化操作,但自动化程度还不高,这部分的自动化操作是我们接下来的工作重点。


标签根据时效性分为:离线标签、近实时标签和实时标签。 根据聚合粒度分为**:聚合标签和明细标签。

通过类别维度可将标签分为:账号属性标签、消费行为标签、活跃行为标签、用户偏好标签、资产信息标签等。


直接将 dm 层的数据不太方便拿来用,原因在于:*

基础数据比较原始,抽象层次有所欠缺、使用相对繁琐。通过对基础数据进行与、或、非的组合,形成业务标签供业务方使用,可以降低运营的理解成本,降低使用难度。


标签组合之后需要对标签进行具体业务场景应用,如人群圈选。配置如上图左侧所示,支持离线人群包和实时行为(需要分开配置)。

配置完后,生成上图右侧所示的 DSL 规则,以 Json 格式表达,对前端比较友好,也可以转成存储引擎的查询语句。



标签有一部分实现了自动化。在人群圈选部分自动化程度比较高。比如分组刷新,每天定时刷新;高级计算,如分组与分组间的交/并/差集;数据清理,及时清理过期失效的实体集。

标签存储

下面介绍一下我们在标签存储方面的实践。*

严选 DMP 标签系统需要承载比较大的 C端流量,对实时性要求也比较高。

我们对存储的要求包括: 支持高性能查询,以应对大规模 C端流量 支持 SQL,便于应对数据分析场景 支持数据更新机制 可存储大数据量 支持扩展函数,以便处理自定义数据结构 和大数据生态结合紧密

目前还没有一款存储能够完全满足要求。


我们第一版的存储架构如下图所示:*


离线数据大部分存储在 Hive 中,小部分存储在 Hbase(主要用于基础标签的查询)。实时数据一部分存储在 Hbase 中用于基础标签的查询,部分双写到 KUDU 和 ES 中,用于实时分组圈选和数据查询。离线圈选的数据通过 impala 计算出来缓存在 Redis 中。


这一版本的缺点包括:* 存储引擎过多。 双写有数据质量隐患,可能一方成功一方失败,导致数据不一致。 项目复杂,可维护性较差。


为了减少引擎和存储的使用量,提高项目可维护性,在版本一的基础上改进实现了版本二。


我们第二版的存储架构如下图所示:*


存储架构版本二引入了 Apache Doris ,离线数据主要存储在 Hive 中,同时将基础标签导入到 Doris,实时数据也存储在 Doris,基于 Spark 做 Hive 加 Doris 的联合查询,并将计算出来的结果存储在 Redis 中。经过此版改进后,实时离线引擎存储得到了统一,性能损失在可容忍范围内(Hbase 的查询性能比 Doris 好一些,能控制在 10ms 以内,Doris 目前是 1.0 版本,p99,查询性能能控制在 20ms 以内,p999,能控制在 50ms 以内);项目简化,降低了运维成本。*


在大数据领域,各种存储计算引擎有各自的适用场景,如下表所示:*



高性能查询


分组存在性判断:判断用户是否在指定的一个分组或者多个分组。包括两大部分: 第一部分为静态人群包,提前进行预计算,存入 Redis 中(Key 为实体的 ID,Value 为结果集 ID),采用 Lua 脚本进行批量判断,提升性能; 第二部分为实时行为人群,需要从上下文、API 和 Apache Doris 中提取数据进行规则判断。性能提升方案包括,异步化查询、快速短路、查询语句优化、控制 Join表数量等。


还有一个场景是人群分析:人群分析需要将人群包数据同多个表进行联合查询,分析行为路径。目前 Doris 还不支持路径分析函数,因此我们开发了 DorisUDF 来支持此业务。Doris 的计算模型对自定义函数的开发还是很友好的,能够比较好地满足我们的性能需要。


Apache Doris 在网易严选中已应用于点查、批量查询、路径分析、人群圈选等场景。在实践中具备以下优势:* 在点查和少量表的联合查询性能 QPS 超过万级,RT99<50MS。 水平扩展能力很强,运维成本相对比较低。 离线数据和实时数据相统一,降低标签模型复杂度。

不足之处在于大量小数据量的导入任务资源占用较多,不过此问题已经在 Doris 1.1 版本中进行了优化,Doris 在 1.1 中大幅增强了数据 Compaction 能力,对于新增数据能够快速完成聚合,避免分片数据中的版本过多导致的 -235 错误以及带来的查询效率问题。待 Doris 1.1.2 版本正式发布后我们也会及时同步升级。


具体可以参考: [Apache Doris 1.1 特性揭秘:Flink 实时写入如何兼顾高吞吐和低延时]

未来规划

提升存储\&计算性能:Hive 和 Spark 逐渐全部转向 Apache Doris。 优化标签体系: 建立丰富准确的标签评价体系 提升标签质量和产出速度 提升标签覆盖率 更精准的运营** 建立丰富的用户分析模型 从使用频次和用户价值两个方面提升用户洞察模型评价体系 建立通用化画像分析能力,辅助运营智能化决策

资料下载

关注公众号「SelectDB 」,后台回复【网易严选 】获取本次演讲 PPT 资料


SelectDB 是一家开源技术公司,致力于为 Apache Doris 社区提供一个由全职工程师、产品经理和支持工程师组成的团队,繁荣开源社区生态,打造实时分析型数据库领域的国际工业界标准。基于 Apache Doris 研发的新一代云原生实时数仓 SelectDB,运行于多家云上,为用户和客户提供开箱即用的能力。 相关链接:* SelectDB 官方网站: SelectDB - 基于 Apache Doris 的云原生实时数据仓库 Apache Doris 官方网站: Home - Apache Doris Apache Doris Github: https://github.com/apache/doris Apache Doris 开发者邮件组: dev@doris.apache.org

文章列表

更多推荐

更多
  • Pulsar消息队列-一套高可用实时消息系统实现 实时消息【即时通信】系统,有群聊和单聊两种方式,其形态异于消息队列:1 大量的 group 信息变动,群聊形式的即时通信系统在正常服务形态下,瞬时可能有大量用户登入登出。2 ...
  • Pulsar消息队列-Pulsar对比Kafka笔记 很多人查看 Pulsar 之前可能对 Kafka 很熟悉,参照上图可见二者内部结构的区别,Pulsar 和 Kafka 都是以 Topic 描述一个基本的数据集合,Topic 数据又分为若干 Partition,即对数据进行逻辑上的 ...
  • Pulsar消息队列-对 2017 年一套 IM 系统的反思 信系统的开发,前前后后参与或者主导了六七个 IM 系统的研发。上一次开发的 IM 系统的时间点还是 2018 年,关于该系统的详细描述见 [一套高可用实时消息系统实现][1] ...
  • Apache APISIX文档-快速入门指南-如何构建 Apache APISIX 如何构建 Apache APISIX,步骤1:安装 Apache APISIX,步骤2:安装 etcd,步骤3:管理 Apache APISIX 服务,步骤4:运行测试案例,步骤5:修改 Admin API key,步骤6:为 Apac
  • Apache APISIX文档-快速入门指南-快速入门指南 快速入门指南,概述,前提条件,第一步:安装 Apache APISIX,第二步:创建路由,第三步:验证,进阶操作,工作原理,创建上游服务Upstream,绑定路由与上游服务,添加身份验证,为路由添加前缀,APISIX Dashboard
  • Apache APISIX文档-架构设计-APISIX APISIX,软件架构,插件加载流程,插件内部结构,配置 APISIX,插件加载流程,比如指定 APISIX 默认监听端口为 8000,并且设置 etcd 地址为 http://foo:2379, 其他配置保持默认。在 ...
  • Apache APISIX文档-架构设计-Service Service 是某类 API 的抽象(也可以理解为一组 Route 的抽象)。它通常与上游服务抽象是一一对应的,Route 与 Service 之间,通常是 N:1 的关系,参看下图。不同 Route 规则同时绑定到一个 Service ...
  • Apache APISIX文档-架构设计-Plugin Config 如果你想要复用一组通用的插件配置,你可以把它们提取成一个 Plugin config,并绑定到对应的路由上。举个例子,你可以这么做:创建 Plugin config,如果这个路由已经配置了 plugins,那么 Plugin config ...
  • Apache APISIX文档-架构设计-Debug Mode 注意:在 APISIX 2.10 之前,开启基本调试模式曾经是设置 conf/config.yaml 中的 apisix.enable_debug 为 true。设置 conf/debug.yaml 中的选项,开启高级调试模式。由于 ...
  • Apache APISIX文档-架构设计-Consumer 如上图所示,作为 API 网关,需要知道 API Consumer(消费方)具体是谁,这样就可以对不同 API Consumer 配置不同规则。授权认证:比如有 [key-auth] 等。获取 consumer_...
  • 近期文章

    更多
    文章目录

      推荐作者

      更多