机器学习和深度学习-5

本文系统梳理现代深度学习核心架构:CNN(含归纳偏置、卷积数学本质)、RNN/LSTM(解决长程依赖)、Transformer(自注意力、多头机制、编码器-解码器结构);深入剖析三大生成模型范式——VAE(ELBO、重参数化)、GAN(极小极大博弈)、扩散模型(前向/反向过程、DDPM、得分匹配);并简述不确定性量化(贝叶斯方法、集成、共形预测)与神经网络验证基础。内容聚焦模型原理、数学建模与机器人等实际场景关联。

Lecture 4 MLDL Refresher Part 2

四、进入深度学习进阶 — CNN

上次课讲了监督学习和深度学习的基础,简单提了提为什么用深度学习。今天聊一些进阶内容,帮你联想到现代深度学习模型,比如卷积神经网络、RNN、LSTM 和 Transformer。两种无监督学习范式:无监督学习(特别是生成模型)和自监督学习。最后快速提一下两种让学习过程更稳健可靠的方法:不确定性量化和验证——它们在机器人领域都很实用。

卷积神经网络

先回顾全连接神经网络:输入层与输出层之间存在大量相互独立的连接,连接非常密集,相互独立且具有全局性。而卷积神经网络主要捕捉空间依赖性,在处理图像时通过应用相应的滤波器来实现。两个关键点:空间依赖性和相关滤波器。

卷积核包含几个关键组件:步长和填充。这里展示了一个 3×3×13 \times 3 \times 1

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值