CNN vs. ViT

https://speakerdeck.com/yushiku/cnn-vs-vit

Swin Transformer : CNNのような構造をTransformerにいれる改善

ConvNeXt

2020年代に入り、CNN（ConvNet）を改善してViTに匹敵する性能が出ることが報告されるようになっている

代表的なのがConvNeXt

• arXiv: [2201.03545] A ConvNet for the 2020s

• Github Repo: facebookresearch/ConvNeXt: Code release for ConvNeXt model

ConvNeXtはSwin Transformerを超えると報告

2022年時点の結論

TransformerもCNNも大差ない

CNN vs. ViT - Speaker Deck