深度学习-一文看尽深度学习中的各种池化方法!
发表于 分类于 🌙进阶学习 , ⭐人工智能 Artificial Intelligence , 💫_深度学习基本概念 Deep Learning Basic Concepts 阅读次数: Valine:
本文字数: 4.8k 阅读时长 ≈ 12 分钟
本文字数: 4.8k 阅读时长 ≈ 12 分钟
深度学习-一文看尽深度学习中的各种损失函数
发表于 分类于 🌙进阶学习 , ⭐人工智能 Artificial Intelligence , 💫_深度学习基本概念 Deep Learning Basic Concepts 阅读次数: Valine:
本文字数: 9.1k 阅读时长 ≈ 23 分钟
本文字数: 9.1k 阅读时长 ≈ 23 分钟
导言
在机器学习中,损失函数是代价函数的一部分,而代价函数是目标函数的一种**类型[1]**。
- Loss function
损失函数:用于定义单个训练样本与真实值之间的误差。 - Cost function
代价函数:用于定义单个批次/整个训练集样本与真实值之间的误差。 - Objective function
目标函数:泛指任意可以被优化的函数。
损失函数是用于衡量模型所作出的预测离真实值(Ground Truth)之间的偏离程度。通常,我们都会最小化目标函数,最常用的算法便是“梯度下降法”(Gradient Descent)。俗话说,任何事情必然有它的两面性,因此,并没有一种万能的损失函数能够适用于所有的机器学习任务,所以在这里我们需要知道每一种损失函数的优点和局限性,才能更好的利用它们去解决实际的问题。损失函数大致可分为两种:回归损失(针对连续型变量)和分类损失(针对离散型变量)。
跟李沐学AI-动手学深度学习 PyTorch版-30 第二部分完结竞赛:图片分类
跟李沐学AI-动手学深度学习 PyTorch版-29.2 ResNet为什么能训练出1000层的模型
跟李沐学AI-动手学深度学习 PyTorch版-29 残差网络 ResNet
跟李沐学AI-动手学深度学习 PyTorch版-28 批量归一化
跟李沐学AI-动手学深度学习 PyTorch版-27 含并行连结的网络 GoogLeNet / Inception V3
跟李沐学AI-动手学深度学习 PyTorch版-26 网络中的网络 NiN
学习报告:用于人脸重建的反向生成对抗渲染器
本篇学习报告基于论文《Inverting Generative Adversarial Renderer for Face Reconstruction》。此论文提出一种新颖的生成对抗渲染器(Generative Adversarial Renderer,GAR),用于取代基于简单图形规则的可微分渲染器来完成三维人脸模型的重建任务。相关成果发表在2021 CVPR(Oral)。原文链接与代码地址见文末。
图1 论文截图