损失函数
所谓的损失函数就是代价函数，意义上类似于信号检测与估计中的判决准则。在确定判决规则时，需要把接受空间化为两个区域（二元假设中），$C_01$就表示了一种将$H_0$判断为$D_1$就表示发生了虚警，指定代价就是$C_{01}$。$R=P(H_0)(P(D_0|H_1)C_{01}+P(D_1|H_1)C_{11})+P(H_1)(P(D_1|H_0)C_{10}+P(D_0|H_0)C_{00})$，检测判决的标准就来自于使得$R$最小。 ML中的损失函数，表征了拟合结果与实际分布的差异的大小，拟合的过程就是使得损失函数变得尽可能小。但是最终的结果并不是为了让拟合达到最好，这样会出现过拟合的问题。 目标函数是使系统最优化用的函数，由于不能够使得模型达到最佳的拟合，所以如果想要找一个极小值表示最优化，就要引入目标函数（实际上目标函数是多种因素共同作用下的最优化结果，而不是上面所叙述的逻辑）损失函数在这其中就只是一个变量。
