We would like to show you a description here but the site won’t allow us.

2022年3月27日 · PLE 模型 是腾讯发表在RecSys ’20上的文章，这篇paper获得了recsys’20的best paper award，也算为腾讯脱离技术贫民的大业添砖加瓦了。 这篇文章号称极大的缓解了 多任务学习 中存在的两大顽疾：负迁移（negative transfer）现象和跷跷板（seesaw phenomenon），由此带来了相比较其他MTL模型比较大的性能提升。 从论文呈现的实验结果也确实是这样的，但从模型结构上来看，更像是大力出奇迹，即性能的提升是由参数量变多而带来的（仅仅是个人看 …

2022年7月21日 · PLE 为 Recsys 2020最佳长论文，出自腾讯的 PCG（Platform and Content Group） 推荐视频团队。 PLE 是 MMoE （详见 MMoE）的改进版，结构简单且效果好，PLE 主要是在 MMoE 的基础上，为每个任务增加了自己的 specific expert，仅由本任务对其梯度更新。 多任务学习 （multi-task learning，MTL）在 推荐系统 中已经有很多成功的应用，但是存在部分问题没有解决的很好。 其中一个为负迁移（negative transfer），推荐系统中的任务通常是低相关甚 …

2022年3月15日 · PLE（Progressive Layered Extraction）是腾讯推荐系统团队提出的一种改进的多任务学习模型，旨在解决负迁移和跷跷板现象。 该模型在MMoE基础上，为每个任务添加专属专家，并通过门控网络动态融合信息。

腾讯在2020的论文中，就对MMoE进行改进，提出了 CGC （Customized Gate Control）、PLE（Progressive Layered Extraction） 其实，从结构上来看，CGC可以认为是单层的PLE，而PLE就是多层的CGC。 从上面的结构图，容易看出跟MMoE的差别就在于： 除了共享的Expert之外，还加入了每个task自己的Specific Expert. 最后，通过对应task的Tower层输出，计算得到task的预测值。 上面也提到，PLE其实可以认为是多层的CGC：

2021年5月1日 · 腾讯的 (PLE) 为什么能获得RecSys2020最佳长论文奖？ Progressive Layered Extraction (PLE): A Novel Multi-Task Learning (MTL) Model for Personalized Recommendations1.论文解读 被包养的程序猿丶：腾讯PCG RecSys2020最佳长论文——视频推荐场景下多任务PLE模型…

为了解决跷跷板和负迁移的现象，论文提出了一种共享结构设计的渐进式分层提取（PLE）模型。 其包含两部分， 一部分是一种显式区分共享专家塔和特定任务专家塔的门控 (CGC) 模型，另一部分是由单层CGC结构扩展到多层的PLE模型。

腾讯于2020年在RecSys上发表了论文《Progressive Layered Extraction (PLE): A Novel Multi-Task Learning (MTL) Model for Personalized Recommendations》，其中提出了PLE算法用于多任务 …

PLE (Progressive Layered Extraction)模型由腾讯PCG团队在2020年提出，主要为了解决跷跷板问题，该论文获得了RecSys'2020的最佳长论文（Best Lone Paper Award）。 文章首先提出多任务学习中不可避免的两个缺点： 负迁移（Negative Transfer）：针对相关性较差的任务，使用shared-bottom这种硬参数共享的机制会出现负迁移现象，不同任务之间存在冲突时，会导致模型无法有效进行参数的学习，不如对多个任务单独训练。 跷跷板现象（Seesaw Phenomenon）： …

2020年9月22日 · To address these issues, we propose a Progressive Layered Extraction (PLE) model with a novel sharing structure design. PLE separates shared components and task-specific components explicitly and adopts a progressive routing mechanism to extract and separate deeper semantic knowledge gradually, improving efficiency of joint representation ...