Margin

2-class Margin

• 公式
  $\hspace{4mm}E[L] = \sum\limits_{i=1}^{m} Max[0, margin - t^i*h_{\boldsymbol{\theta}}(\boldsymbol{x^i})] \hspace{8mm}(1) \\ \hspace{8mm}\textbf{其中:} \\ \hspace{12mm}t : 采用1或-1 \\ \\ \hspace{8mm}\textbf{检测时:}\\ \hspace{12mm}t = \begin{cases} 1 \hspace{8mm}h_{\boldsymbol{\theta}}(\boldsymbol{x})>0 \\ -1\hspace{4mm}h_{\boldsymbol{\theta}}(\boldsymbol{x})<0 \end{cases}$

• 函数图像
  
  
  

multi-class Margin

• Torch 公式
  $\hspace{4mm}E[L] = \sum\limits_{i=1}^{m} L_i \hspace{8mm}(2) \\ \hspace{8mm}\textbf{其中:} \\ \hspace{12mm} L_i =\sum\limits_{l=1, l\neq t_i}^{T} Max[0, margin -h_{\boldsymbol{\theta_{t_i}}}(\boldsymbol{x^i}) +h_{\boldsymbol{\theta_l}}(\boldsymbol{x^i})] \\ \hspace{12mm}t : 采用(1,2,...T)\\ $

• one-vs-all 公式
  $\hspace{4mm}E[L] = \sum\limits_{i=1}^{m} L_i \hspace{8mm}(3) \\ \hspace{8mm}\textbf{其中:} \\ \hspace{12mm} L_i =\sum\limits_{l=1}^{T} Max[0, margin - t_l^ih_{\boldsymbol{\theta_{l}}}(\boldsymbol{x^i})] \\ \hspace{12mm}t : 采用(1,-1,-1,-1)，即只有一个为1，其他都为-1\\ $

Source Code

torch7