1.引言 为什么要并行 近几年，依赖大规模标注数据和大量的可学习参数，深度神经网络才能异军突起，占得机器学习半壁江山。然而，也是因为这两点使得深度学习的训练变得极其困难，尤其...
发简信
IP属地：上海
-
GPU卡的底层通信原理 -
阅读笔记- Spatial DETR: Robust Scalable Transformer-Based 3D Object Detection from Multi-view Camera ...来源：https://markus-enzweiler.de/downloads/publications/ECCV2022-spatial_detr.pdf[https:/...
-
阅读笔记-Transformer Quality in Linear Time这篇文章的目的是为了解决transformer 处理长序列任务遇到的计算复杂度较高的问题。为了解决这个问题，许多工作聚焦于探索更有效的注意力机制，比如linear atten...
-
阅读笔记 - The Devil in Linear Transformer来源：https://www.researchgate.net/publication/364419868_The_Devil_in_Linear_Transformer[h...
-
代码阅读-deformable DETR （五）
这一篇我们来看一下损失函数的定义。 该类定义前的注释指出DETR的损失包含两步： 计算模型输出和gt之间的二分图匹配； 对于匹配成功的数据对监督其类别和box 在初始化函数的...
-
SwinTransformer 代码复现 - 模型搭建
参考swin transformer源码，我们修改了： 添加了DropPath策略 每一个stage的输出添加了norm层 每一个PatchMerge层添加了norm层 源码...
-
阅读笔记-Swin Transformer: Hierarchical Vision Transformer using Shifted Windows来源： arXiv.21030v1代码：https:// github.com/microsoft/Swin-Transformer[http://github.com/mi...
-
阅读笔记-TNT-Transformer in Transformer来源：CVPR2021单位：诺亚方舟、软件所 我个人真的挺讨厌各种夸大宣传的，有些工作确实有贡献，但现在的趋势怎么就成了包装和宣传竞赛呢。。。 这篇文章宣传称致敬Networ...
-
阅读笔记-Looking beyond two frames: end-to-end multi-object tracking using spatial and temporal trans...来源： arXiv:2103.14829v1 这篇文章的目标是利用transformer实现真正的端到端多目标跟踪器的训练，这里的端到端是指给定一段图像序列，网络能够自动的处...
