transformer 已经出来三年了，自己也没有深入了解，触及皮毛，最近想研究一下detr, 顺便写个 📒 记录一下对transformer的理解，个人主要从代码角度

图像描述生成作为结合CV与NLP的跨模态学习任务, 在人工智能领域也是热门的研究点. 模型 Image caption 是在给定照片的情况下生成人类可读的文字描述的具有挑

本文图片、代码来源于pytorch-se12seq, 加深个人理解 在上文中使用的编码器-解码器结构如下: （一）信息压缩问题 对于上诉的解码器而言

理论结合实践是学习的最佳方式, 本文图片、代码来源于pytorch-seq2seq Seq2Seq 模型 对于序列预测, RNN及其变种LSTM、GRU等无疑是最