MetricLogger:大厂都在用的指标记录器 MetricLogger:大厂都在用的指标记录器 MetricLogger是现在比较流行的一个用来记录各种metric的类,它实际上最开始来源于DeiT项目,而DeiT项目又是从torchvision-classification-reference-utils.py里面抄过来的,所以总的来说是PyTorch提供的一个轮子。 1 前置模块:SmoothedValue SmoothedValue 2024-01-22 深度学习 > PyTorch #深度学习 #PyTorch
单机多卡DDP tutorial 单机多卡DDP tutorial 1 什么是DDP 当数据足够多的时候,一张显卡装不下很大的batch_size,我们需要将数据分摊到多个显卡上去。 DDP的思路很简单,我们在每个显卡上面都创建一个模型的复制以及相同的Optimizer,数据被Distributed Sampler平分,并送到每张显卡上完成Forward和Backward过程。 但如果只做以上步骤的话,我们得到的是四个不同参数 2024-01-20 深度学习 > PyTorch #深度学习 #PyTorch
Review on 波动光学 Review on 波动光学 1 波动方程 光可以看作波在介质中传播,在自由空间中,光传播的速度记为c0c_0c0,如果介质是齐次的,或者说其折射率nnn不变,那么在介质中传输的速度是 c=c0nc = \frac{c_0}{n} c=nc0 光波由一个实函数描述,我们记距离向量r=(x,y,z)\boldsymbol{r}=(x,y,z)r=(x,y,z),其中x,y,zx,y,zx, 2024-01-18 Optics #光学 #光子学
Overview of GAN Overview of GAN 1 GAN的诞生 GAN的全称为Generative Adversarial Net,意思是对抗生成网络。 在这之前,生成式网络总会遇到很多难以实现的概率计算方法,这些问题在最大似然估计等策略中经常出现。 而GAN采用一种完全不同的方式来学习数据集的分布。 首先,我们定义一个生成器GGG,生成器的输入是一个随机噪声z∼pz(z)z\sim p_z(z)z∼pz 2024-01-15 深度学习 > 现代计算机视觉 > 生成模型 #深度学习 #生成网络
01:信号与系统的基础 01 信号与系统的基础 1 信号 信号其实广泛指代现实世界中的各种物理现象,例如,人说话的声音是一种信号,它在不同时间有不同的音量大小。股票价格是一种信号,在不同时间股票的价格不同。当然,也有与时间没有关系的信号,例如一张静态的图片,图片上像素点的亮度值与所处图片的位置有关。 所以,信号总是一种在变换的值,可能随着时间变化(声音,股票),可能随着空间变化(图片)。它可能还随着其它因素变化,但在 2024-01-06 通信工程本科 > 信号与系统 #本科课程 #信号与系统
SC基础 SC基础 1 什么是Structural Colors 物体呈现颜色有两种不同的方式,当白色光打在材料上的时候,材料吸收部分波长的光线就会让反射光线呈现颜色,这类似于Pigment呈现颜色的原理。 而材料也可以通过其精妙的结构来完全物理操控光线的反射和折射,使得进入眼睛的光线的波长有别于入射光线,这就是Structural Colors(SC),其通过结构来呈现颜色,而非吸收部分波长。 SC常 2024-01-04 Optics > Structural Colors #光学 #光子学
附件3:Markov模型 Markov模型 1 生灭过程 连续时间Markov链满足以下三个条件 过程中状态仅限于从一个状态向其邻近状态转移 如果t时刻处在状态n,那么在[t,t+Δt)[t, t+\Delta t)[t,t+Δt)内转移到n+1n+1n+1的概率为λn(t)Δt+o(Δt)\lambda_n(t) \Delta t+o(\Delta t)λn(t)Δt+o(Δt),转移到n−1n-1n−1的概率为 2023-12-23 信息与通信工程 > 随机过程 #随机过程
附件2:矩母函数(母函数) 附件2:矩母函数(母函数) 1 定义 原英文是Moment Generating Function,直译叫做矩生成函数。 对于离散随机变量,Moment Genertating Function定义为 ϕ(t)=E[etX]=∑xetxp(x)\phi(t) = E[e^{tX}]=\sum_x e^{tx}p(x) ϕ(t)=E[etX]=x∑etxp(x) 对于连续随机变量,Moment 2023-12-08 信息与通信工程 > 随机过程 #随机过程
06:Poisson过程 Poisson过程 1 回顾计数过程 计数过程将记录一段时间[0,t)[0,t)[0,t)内出现的事件的次数,计数过程表示为{N(t),t≥0}\{N(t), t\geq 0\}{N(t),t≥0},且满足以下性质 N(t)≥0N(t)\geq 0N(t)≥0 N(t)∈Z+N(t)\in Z_+N(t)∈Z+ ∀s,t>0,s<t\forall s,t>0, s< 2023-12-07 信息与通信工程 > 随机过程 #随机过程