美团技术沙龙第79期:美团搜索/推荐/广告稀疏模型的端到端实践

企业动态
本次技术沙龙,我们将与大家分享稀疏场景下的算法工程内容,包括训练、特征、推理三个方向遇到的系统挑战与取得的阶段性成果。

2023年11月25日 14:00 ~ 2023年11月25日 17:30

线上活动

| 关于美团技术沙龙

本期活动由清华大学-美团数字生活联合研究院和深圳市美团机器人研究院联合出品,美团技术团队和美团科协主办,每期沙龙邀请美团及其他互联网公司的技术专家分享来自一线的实践经验,覆盖各主要技术领域。

王兴星.png

/出品人/

兴星,美团高级研究员

2016年初加入美团,从0到1搭建外卖商业团队及技术体系,应用于外卖/闪购/医药的搜索/推荐/品牌展示等多个广告场景,多次获得BG业务和技术突破奖。曾在搜狗商业、百度凤巢任职,早年也曾获得多项数据竞赛冠军。

| 活动简介

AI时代,数据、算法、算力是三大核心要素,而算法工程作为运作载体,提供AI能力的业务价值变现。

美团作为一家科技零售公司,很早就在搜索、推荐、广告方向践行用AI“帮大家吃得更好,生活更好”,持续打磨算法体系和算法工程系统,以追求极致的用户体验。

本次技术沙龙,我们将与大家分享稀疏场景下的算法工程内容,包括训练、特征、推理三个方向遇到的系统挑战与取得的阶段性成果。

| 日程安排


外部议程外部议程

| 分享介绍 

黄军.png

黄军,美团研究员

目前从事深度学习基础架构工作,曾从事大数据基础架构工作。

分享议题:《美团搜索/推荐/广告场景的训练引擎实践》

介绍美团通用大规模深度学习训练引擎的演进过程,关键演进技术包括:大规模稀疏参数支持,千亿样本训练,异构硬件加速,大规模集群部署等。

王敬宇.png

王敬宇,北京邮电大学教授/博导

从事深度学习模型编译、加速与分布化的工作,北京市青年英才,主持完成国家级项目10余项。

分享议题:《稀疏模型推理加速在美团推荐系统中的实践》

在线推荐类模型中算子粒度过小,模型中使用的定制算子往往并未被主流的优化工具支持,这使得TVM等推理加速工具难以对整个模型进行加速,造成模型的对应图结构零碎,效率不高。本次分享主要介绍报告引擎优化工作,以系统化的方式提供计算图算力密度的评估机制,以及更多通⽤的算子融合与替换策略,获得比手工优化策略更通用的优化策略,已经部署于美团的真实业务,实现了深度学习推理服务加速。

邹亚劼.png

亚劼美团高级技术专家

曾带领团队从0-1建设了广告特征、模型推理系统,在算法工作流、数据流、模型加速优化有丰富的经验。

分享议题:《美团外卖广告特征平台实践

特征、样本作为算法工作流程中重要的一环,数据质量、数据生产效率直接影响了模型产出的好、快。本次分享,主要介绍美团外卖广告在算法数据高时效、大规模驱动下,特征平台的演进,尤其是在超长序列下,特征回溯、特征存储的解决方案。

钱玉磊.png

玉磊,美团高级技术专家

负责搜推机器学习引擎工作,在GPU加速训练和推理方面有多年经验,带领团队完成搜推机器学习训练、推理从CPU到GPU的切换。曾就职于百度凤巢模型团队。

分享议题:《美团搜索/推荐推理引擎实践》

推理引擎是模型应用的核心架构,也是影响模型交付效果的最后一环。随着模型复杂度的进一步提高,面向稀疏特征场景、以CPU为算力基础的传统稀疏模型推理引擎架构,在算力上面临着巨大的短板;同时,稀疏特征的规模也成为传统搜推模型采用新硬件进行加速的核心制约因素。本次分享主要介绍美团搜索、推荐采用GPU进行推理加速的新架构,内容主要包括搜推模型的在线学习、稀疏特征加速处理、模型优化、模型分发等推理引擎核心议题。

| 报名链接

https://hdxu.cn/D3JDH

责任编辑:张燕妮
相关推荐

2023-05-19 12:33:24

美团技术

2022-06-17 11:54:17

数据模型系统

2022-03-17 12:00:48

异构业务实践

2016-11-27 20:43:26

云计算迭代

2013-08-20 13:11:58

技术美团

2022-08-12 12:23:28

神经网络优化

2022-04-29 09:10:00

算法人工智能技术

2017-06-01 10:52:35

互联网

2022-08-09 09:18:47

优化实践

2019-08-23 13:10:39

美团点评Kubernetes集群管理

2022-03-15 09:30:00

美团方案实践

2018-04-04 09:30:23

美团点评响应式架构

2022-03-25 10:47:59

架构实践美团

2018-06-01 10:08:00

DBA美团SQL

2018-10-29 15:50:23

深度学习工程实践技术

2018-07-20 10:18:05

走进美团工程师文化

2017-05-26 16:42:06

2022-03-15 10:20:00

云原生系统实践

2022-03-17 21:42:20

美团插件技术

2017-06-02 09:55:46

云计算云计算半月刊
点赞
收藏

51CTO技术栈公众号