Transformer代码理解 代码来源：https://github.com/Kyubyong/transformer/blob/master/modules.py module.py Layer Normalization 层标准化函数实现在特征维度上标准化，在最后一个维度上计算均值和标准差 input : 输入向量，维度为 $batch\times seq\times featur...

问题建模 一般情况下，LTR优化问题被建模为： [\mathcal{L} = \sum_{r\in\mathcal{R} } \mathcal{l}({y_{i},P(y_{i} \pmb{x}_{i};\theta ) i\in \mathcal{I}_{r}})] $\mathcal{R}$:用户请求(...

摘要 在排序时，将候选items作为一个有吸引力的整体展示给用户是一个非常重要的任务。直观来看，在将一个item加入到候选集时，需要考虑候选池中已经存在的item的影响。本文提出一个seq2seq排序模型Seq2Slate，在每一个time step，模型考虑到候选集中已经存在的items来决定下一个“best”选择，时序模型能够灵活可扩展地捕捉item之间的关联信息。本文还展示了如何使用弱...