论文标题： Stronger, Fewer, & Superior: Harnessing Vision Foundation Models for Domain Generalized Semantic Segmentation 论文地址：https://arxiv.org/pdf/2312.04265.pdf 代码：https://github.com/w1oves/Rein.g...
装饰器可以在不修改原有代码的情况下，为函数增加新功能或者限制条件。装饰器是基于闭包环境存在的。 闭包（Closure）指的是一个函数及其执行环境（变量）的组合。闭包需要满足： 内嵌函数 内嵌函数中有外部嵌套函数的变量 外部嵌套函数的返回值是内嵌函数名 装饰器函数可以使用装饰器语法糖 @，也可以采用原始方式进行调用。 被装饰函数的参数取决于装饰器函数的参数。 装饰器函数应...
基础问题 什么是卷积？ 卷积运算的过程，将卷积核与矩阵上对应位置的值相乘后的和，放在输出矩阵对应的位置，输出的矩阵也就是通过卷积得到的特征矩阵，不同的卷积核可以得到不同的特征输出。把不同的特征组合起来，就能得到输入图像的特征。 卷积的计算公式和代码 假设一个大小为 $H\times W$的特征图，与一个大小为$h \times w$的卷积核做卷积，padding大小为$p$，stride...
The Bitter Lesson Rich Sutton March 13, 2019 The biggest lesson that can be read from 70 years of AI research is that general methods that leverage computation are ultimately the most effective,...
报告地址：https://openai.com/research/video-generation-models-as-world-simulators 技术报告主要介绍了两个方面： （1）将所有类型的视觉数据转化为统一表示的方法，从而能够大规模训练生成模型； （2）对Sora的能力和局限性的定性评价。 这里我们主要关注（可能用到的）技术部分。 将视觉数据转化为 patches ...
一、图像多模态 这里指的是有一些具有多个模态的医学图像，例如 MRI，或者不同成像方式得到的图像，比如 CT-MR，PET-MR 组成的多模态医学数据。 多模态融合方式包括在输入的融合，layer-level 的融合，以及在决策端 or 输出的融合。 1. Input-level fusion 多数模型采用的方法：UNet，nnUNet, CNN+ViT,UNETR_v, Swin ...
1. 语言模型 语言模型，从我个人的理解，是可以理解并生成文本的模型。 理解文本的第一步是理解单词，语言模型使用词向量来表示单词，词向量是一个拥有多维度的数字向量。我们很容易就会想到一个词的含义不是固定的，在不同的语境下它可能表示不同的意思，因此词向量也要结合上下文的语义。这里就需要用到知名的 Transformer 结构了。 （这里的词其实指的是 token。） 模型会修改词向量来...
nnUNet 论文： nnU-Net: Self-adapting Framework for U-Net-Based Medical Image Segmentation nnU-Net: a self-configuring method for deep learning-based biomedical image segmentation 代码：https://github....
1. 读书总结 《所罗门王的指环》奥拉德·洛伦茨 一本关于动物的科普书，作者并不是以一种高高在上的研究者的姿态，而是以一个观察者平等地看待动物们。作者与动物们的互动很令人着迷。人的身上总归有些动物性的，如何看待动物们，也就是如何看待自己身上的动物性。 《蛤蟆先生去看心理医生》 蛤蟆先生去看看了心理医生，好像我也跟着去看了心理医生。在阅读中和蛤蟆先生一起剖析自我，学习如何成长为一个心理上的...
1. DINO DINO 是 Meta 在2021年提出的一种的自监督学习方法，名称来源于 knowledge distillation with no labels，即无标签知识蒸馏。 DINO的结构图 和其他 inter-view 的自监督方法类似，DINO 将输入图像 $x$ 的两种不同的随机变换 $(x_1, x_2)$ 传递给学生和教师网络，这两个网络具有相同的结构，但参数...