深度学习光学设计

第二节 深度神经网络模型 

2.1 线性神经网络实例 

2.1.1 线性回归 

2.1.2 softmax 回归 

2.2 多层感知机实例 

2.2.1 多层感知机 

2.2.2 模型选择、欠拟合和过拟合 

2.2.3 权重衰减 

2.2.4 暂退法（Dropout） 

2.3 卷积神经网络实例 

2.3.1 从全连接层到卷积 

2.3.2 多输入多输出通道 

2.3.3 汇聚层 

2.3.4 卷积神经网络（LeNet） 

2.4 循环神经网络实例 

2.4.1 序列模型 

2.4.2 语言模型和数据集 

2.4.3 循环神经网络 

2.5 生成对抗网络实例 

2.5.1 概率生成模型 

2.5.2 变分自编码器 

2.5.3 生成对抗网络 

2.6 基于注意力机制的 Transformer 架构 

2.6.1 注意力机制 

2.6.2 自注意力机制 

2.6.3 Transformer

第三天 基于深度学习的透射式

光学系统初始结构设计

第一节 监督学习过程 

1.1 DNN 模型介绍 

1.2 自归一化神经网络参数初始化方法 

1.3 SELU 函数及使用 

1.4 Softplus 函数及使用 

1.5 最邻近搜索算法 

1.6 监督损失函数的构建 

第二节 无监督学习过程 

2.1 光线追迹 

2.2 光线追迹自定义监督函数 

第三节 半监督学习过程 

3.1 超参数设置 

3.2 监督函数 

3.3 模型可靠性的讨论与验证