揭秘短视频推荐系统的技术架构及四大模块

开发 架构
我们了解了推荐系统技术架构的整体框架,但还是给人感觉太复杂、太技术范儿了。归根结底来说,推荐系统要做的不就是从海量内容库里选出几十个用户可能感兴趣的优质视频吗?

1.推荐系统技术架构

下面来看下短视频社区平台的推荐系统架构是如何划分的,由底层往上分别是日志信息层、模型策略层、数据计算层、数据结果层与用户交互层,如图2-5所示。

图片

▲图2-5 推荐系统技术架构

(1) 日志信息层

该层主要分为两部分,一部分是静态数据,例如用户数据与内容数据,用户的年龄、性别、地区,稿件内容的标题、时长、作者,在很长一段时间内都是固定数据,系统每天取其增量存入日志信息层;另一部分是行为数据,例如推荐请求日志,记录哪些内容曝光给了哪些用户;推荐点击日志,哪些用户点击了哪些内容;用户浏览时长日志信息、用户LBS地点信息等等。

(2)模型策略层

该层主要是决定采取何种模型、策略来分析与解读日志信息层的静态数据和行为数据,例如在召回阶段是更多地进行热门内容召回,还是根据用户行为进行协同过滤的召回;在排序阶段采用何种机器学习模型来进行精排等策略。

(3) 数据计算层

该层是基于模型策略层定下召回排序策略和模型后,采取离线大规模计算与在线实时计算两种方式,计算出模型训练的结果。离线计算是由于机器数量与性能的限制,大量数据需要采取离线方式计算出结果,在线计算是针对线上用户的实时反馈行为,系统快速做出回应,改善用户体验。

(4)数据结果层

该层作用是在不同数据应用系统中存储数据计算层得出的相应计算结果,例如用户画像与内容特征可以存储在ElasticSearch(搜索数据库)中,因为这些数据只需要批量查询读取;而用户行为数据则需要存储在Redis(内存应用)中,方便快速响应前端界面的用户反馈。

(5)用户交互层

该层的交互逻辑分为两部分,第一部分是展现由各层最终计算出的推荐结果给用户,第二部分是记录用户对于推荐结果的反馈行为,例如浏览行为(时长/路径)、点击行为(点击哪些内容/完播率等)、负反馈行为(不感兴趣/投诉等不同程度的负反馈)。

2.推荐系统四大模块

基于以上描述,我们了解了推荐系统技术架构的整体框架,但还是给人感觉太复杂、太技术范儿了。归根结底来说,推荐系统要做的不就是从海量内容库里选出几十个用户可能感兴趣的优质视频吗?我们将推荐系统抽象成一个信息过滤系统,分为审核、召回、排序、规则四个模块,层层递进地过滤内容,如图2-6所示。

图片

▲图2-6 推荐系统技术架构简化

审核模块将符合短视频社区规则与价值观的视频过滤出来,输出量级大致在百万左右;

召回模块将根据用户行为与热门等规则,快速找到一小部分优质内容,输出量级大致在十万左右;

排序模块分为粗排与精排,采用比较复杂的模型,融入较多特征,输出量级在百个视频数量左右;

规则模块,也叫ReRanker(重排序)模块,会在排序模块结果的基础上附加人工干预、规则限制等,最终将结果呈现给用户,输出结果在几十个左右。

本文摘编自《短视频社区:产品、运营与商业化》(ISBN:978-7-111-70525-3),经出版方授权发布。

责任编辑:武晓燕 来源: 大数据DT
相关推荐

2010-07-05 09:34:45

UML类关系图

2021-09-17 10:50:14

容器 Linux

2020-02-29 09:09:34

物联网定位技术IOT

2020-04-06 20:11:26

区块链分布式核心技术

2021-11-03 15:15:21

Go重构技术

2015-08-11 14:39:04

戴尔云计算anycloud

2019-11-15 14:42:00

微服务架构数据

2020-06-29 14:52:31

隐私增强技术PET加密

2021-04-08 08:00:00

混合云云计算开源

2015-07-17 09:50:16

Carthage优劣比较

2017-03-17 19:48:01

人脸识别

2011-03-21 09:01:49

CSS框架

2014-02-11 08:55:11

云计算云计算认证

2015-04-02 15:50:47

数据仓库数据挖掘

2015-12-04 13:46:31

技术人创业创业项目

2010-04-26 12:22:03

Unix系统功能

2013-09-02 10:17:05

虚拟化技术

2016-12-05 13:39:11

微服务架构质量

2012-07-11 10:41:38

虚拟化

2012-08-23 11:40:31

IBM移动应用开发
点赞
收藏

51CTO技术栈公众号