ViT论文逐段精读【论文精读】 

讲得太棒了！非常感谢！！

cnn和transformer基本上是同一件事情，只不过cnn更先进在特征就是tags，trasformer先进在不用一个单位一个单位滑动，但是实际上特征层和tags是一件事情的话特征层比tags的attention内积更高效，这类似于用所有basis和前几个特征函数近似，trasformer低效在要标注和attention本身，高效在不需要一个单位一个单位摞

謝謝老師講解 非常清楚 很受用

感謝大神細心講解

感谢老师精彩的讲解和清楚的分析！

所以長話短說 先用CNN(或其他方法）得到足夠小的feature map，再用transformer跑

来龙去脉，前因后果， 讲的太好了

谢谢作者分享！

谢谢讲解！

謝謝 講解得非常清楚

讲得太仔细了，非常感谢！！

这个人的水平至少是国内优青水平～！

讲的很清透！点赞

讲的真的好

Great presentation!

讲得非常好👍学习了

What is the name of the speaker?

44:15处，应该是√d而不是d/2

老師整容了？

怎么找不到 老师的 VITS 解读了呢？

為什麼是224/16=14 然後input = 14*14 為何不是input = 16*16 input 是一個一個patch 的意思嗎?

讲的太好了

感谢感谢！！！

消融实验结果差不多是因为加是完全不对的，加所带来的特征在动力系统里面全都平均掉了

这位帅哥是谁？

44分30秒不应该是根号D嘛

嘿嘿 来了

沐神呢

大神

------------------------------- Pretty good, done. -------------------------------

这个哥们讲的内容很喜欢！👍

Allen Sarah Miller Steven Anderson Steven

感谢老师！B站看完了来这里再来点赞

Zhu老师讲的很棒，感谢

Transformer base 的head 数目好像是8吧

讲得太好了，清晰明了，幽默风趣，全程无尿点！

真棒！

哈哈