由知乎几篇文章和论文图片整合而成，以备日后查询。
随着人们对于神经网络技术的不断研究和尝试，每年都会诞生很多新的网络结构或模型。这些模型大都有着经典神经网络的特点，但是又会有所变化。你说它们是杂交也好，是变种也罢，总之针对神经网络的创新的各种办法那真叫大开脑洞。而这些变化通常影响的都是使得这些网络在某些分支领域或者场景下表现更为出色（虽然我们期望网络的泛化性能够在所有的领域都有好的表现）。深度残差网络（deep residual network）就是众多变种中的一个代表，而且在某些领域确实效果不错，例如目标检测（object detection）。
选择合适的初始参数\(\theta_0\)，开始迭代（EM算法是初值敏感的）
E步：记\(\theta_0\)为第i次参数的估计值，计算第i+1次的Q函数的值\(Q(\theta,\theta_i) = E_Z[log(Y,Z|\theta)|Y,\theta_i]=\Sigma_Z logP(Y,Z|\theta)P(Z|Y,\theta_i)\)
M步：求使\(Q(\theta,\theta_i)\)极大化的参数\(\theta\)，确定新的参数估计值\(\theta_{i+1} = argmax_{\theta}Q(\theta,\theta_i)\)
重复（2），（3）直到收敛，收敛条件一般为\(||\theta_{i+1}-\theta_i||\le \in_1\)或者\(||Q(\theta_{i+1},\theta_i)-Q(\theta_i,\theta_i)||\le \in_2\)
最大似然估计仅仅是求得似然函数的极值点，考虑到实验结果数量较少，有的时候仅靠最大似然估计不足以求得较为准确参数估计值。 拿这枚硬币抛了10次，得到的数据（\(x_0\)）是：反正正正正反正正正反。我们想求的正面概率θθ是模型参数，而抛硬币模型我们可以假设是 二项分布。
贝叶斯公式中先验概率的估计较简单，1、每个样本所属的自然状态都是已知的（有监督学习）；2、依靠经验；3、用训练样本中各类出现的频率估计。
ffmpeg是一个非常快的视频和音频转换器，还可以抓取实时的音频/视频流。它可以在任意的采样率之间的转换和调整视频，并同时使用高品质的多相滤波器。
https://blog.csdn.net/zyq522376829/article/details/47686867
一、问题的提出
在应用系统开发初期，由于开发数据库数据比较少，对于查询SQL语句，复杂视图的的编写等体会不出SQL语句各种写法的性能优劣，但是如果将应用系统提交实际应用后，随着数据库中数据的增加，系统的响应速度就成为目前系统需要解决的最主要的问题之一。系统优化中一个很重要的方面就是SQL语句的优化。对于海量数据，劣质SQL语句和优质SQL语句之间的速度差别可以达到上百倍，可见对于一个系统不是简单地能实现其功能就可，而是要写出高质量的SQL语句，提高系统的可用性。