누락 오류

수학적 분석 및 통계의 경우, 생략 오류는 다음을 가리킬 수 있습니다.

생략형 교차 검증 안정성(CVlo, 생략형 교차 검증 안정성을 위해):알고리즘 f는 다음 조건이 충족되면 손실함수 V에 대한 CVlo 안정성β를 가진다.

$\displaystyle \forall i\in \{1,...m\},\mathbb {P}_{S}\{\sup _{z\in Z}V(f_{S},z_{i})-V(f_{S^{i},z_{i}\leq \beta _{C}\del}\ta _{C}\del}1\c$

Expected-to-leave-one-out 오류 안정성( $Eloo_{err}$ $Eloo_{err}$ $Eloo_{err}$ $Eloo_{err}$ \ $displaystyle Eloo_{err$ 하나 빼는 것으로 예상되는 오류의 경우):알고리즘 f는 다음과 같이 각 $Eloo_{err}$ 에 대해 $\beta _{EL}^{m}$ E $\beta _{EL}^{m}$ {\ $displaystyle \beta$ _ ${EL}^m$ 및 $\delta _{EL}^{m}$ E $\delta _{EL}^{m}$ { $displaystyle \delta$ _ ${EL}^m}$ 이 $\delta_{EL}^m$ $\beta _{EL}^{m}$ 하는 경우 E $Eloo_{err}$ $Eloo_{err}$ \delta _{ $EL$ }^{m}}^{m}}}의 $Eloo_{err}$ 안정성을 $Eloo_{err}$ .

$\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ { $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ 1 $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ , $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ . . . , $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ , $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ { $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ [ $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ S $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ ] - $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ m $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ i $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ = $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ ( $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ S $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ , $z$ i $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ ) $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ β β $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ - $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ - ${\$ L m m $\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ \ display $style$ \ $forall$ i , ${$ 1 , m $...$ , \ $mathbbb}$ { S } $_$ m $({$ $displaystyle$ $\rightarrow$ \inf $\beta _{EL}^{m}$ }) 및 $\delta _{EL}^{m}$ $\delta _{EL}^{m}$ $({$ $inf$ })은 $\delta_{EL}^m$ n $n\rightarrow \inf$ inf({ $n\rightarrow \inf$ $n\rightarrow$ \inf $})$ 로 $n\rightarrow \inf$ 합니다.

예비 주석

X와 Y가 실수 R의 서브셋인 경우, 또는 X와 Y µ R이 각각 입력 공간 X와 출력 공간 Y인 경우, 훈련 세트를 고려합니다.

$S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ { $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ 1 $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ ( $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ , $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ 1 $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ ) $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ , $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ . , $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ ( $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ m , $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ ) $}$ { $displaystyle$ S $S=\{z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})\}$ $Z=X\times Y$ \ { $x _$ ${1}$ \ , , , \ $z$ _ { m } = ( $x$ _ { $m$ , \ $y _$ { $m }$ ) $Z=X\times Y$ $Z=X\times Y$ = ( x $Z=X\times Y$ { m ) \ ） $Z=X\times Y$ 。다음으로 학습 알고리즘은 Z $Z_{m}$ 에서 $Z_{m}$ $F\subset YX$ Y X $(\displaystyle$ F $\subset YX)$ 로의 $Z_m$ $F\subset YX$ $함수$ f(\ $displaystyle$ f_ ${m})$ 로 $f$ , 입력 공간 X에서 출력 공간 Y로 $f_{S}$ 세트 $(\$ })를 $f_{S}$ 매핑합니다.복잡한 표기법을 피하기 위해 결정론적 알고리즘만 고려한다.또한 $알고리즘$ f $\style$ f는 $f$ S에 대해 대칭이라고 가정한다. 즉, 훈련 세트의 요소 순서에 의존하지 않는다.또한 모든 함수는 측정 가능하며 모든 집합은 계산 가능하다고 가정하며, 이는 여기에 제시된 결과의 관심을 제한하지 않는다.

$z=(x,y)$ z $=$ ( $z=(x,y)$ , $z=(x,y)$ ) { $displaystyle$ z=( $x,y)}$ 에 $z = (x,y)$ 대한 가설 f의 손실은 $V(f,z)=V(f(x),y)$ ( $V(f,z)=V(f(x),y)$ f $V(f,z)=V(f(x),y)$ , $V(f,z)=V(f(x),y)$ ) $V(f,z)=V(f(x),y)$ ( $V(f,z)=V(f(x),y)$ ) , $V(f,z)=V(f(x),y)$ ) $V(f,z)=V(f(x),y)$ { $displaystyle$ V ( $f$ , z ) $I_{S}[f]={\frac {1}{n}}\sum V(f,z_{i})$ $V$ ( $f$ ( $f ( x$ , $V(f,z)=V(f(x),y)$ y )} 로 $V(f,z)=V(f(x),y)$ 됩니다. f의 경험적 오류는 $I_{S}[f]={\frac {1}{n}}\sum V(f,z_{i})$ $I_{S}[f]={\frac {1}{n}}\sum V(f,z_{i})$ $I_{S}[f]={\frac {1}{n}}\sum V(f,z_{i})$ $I_{S}[f]={\frac {1}{n}}\sum V(f,z_{i})$ 로 쓸 수 있습니다.

f의 진정한 오류는 $I[f]=\mathbb {E} _{z}V(f,z)$ I [ $I[f]=\mathbb {E} _{z}V(f,z)$ ] $=$ $I[f]=\mathbb {E} _{z}V(f,z)$ z $I[f]=\mathbb {E} _{z}V(f,z)$ ( $I[f]=\mathbb {E} _{z}V(f,z)$ f $I[f]=\mathbb {E} _{z}V(f,z)$ , z $I[f]=\mathbb {E} _{z}V(f,z)$ ) { $displaystyle$ I [f ]= \ $mathbb$ { $E$ } _ ${z }V(f,z)}$ 입니다.

크기가 m인 교육 세트 S가 주어지면, 우리는 모든 i = 1....,m에 대해 다음과 같이 수정된 교육 세트를 구축한다.

i번째 요소를 제거함으로써

$(\displaystyle S^{i}=\{z_{1},\z_{i-1},\z_{i+1},\z_{m}\})$

및^{[clarification needed]}/또는 i번째 요소를 교체하여

$\displaystyle S^{i}=\{z_{1},...,\z_{i-1},\z_{i},\z_{i},\z_{m}\}$

「」를 참조해 주세요.

레퍼런스

S. Mukherjee, P.니요기, T. 포지오, R. M. 리프킨.학습 이론: 안정성은 일반화에 충분하며 경험적 위험 최소화의 일관성에 필요하고 충분합니다.어드밴스. 컴퓨터수학, 25(1-3): 161~193, 2006

Search

누락 오류

네임스페이스

더

예비 주석

「」를 참조해 주세요.

레퍼런스

Search

누락 오류

예비 주석

「 」를 참조해 주세요.

레퍼런스

「」를 참조해 주세요.