감액연산자

컴퓨터^[1] 과학에서 환원 연산자는 병렬 프로그래밍에서 배열의 요소를 단일 결과로 줄이기 위해 일반적으로 사용되는 연산자의 한 유형입니다.환원 연산자는 연관성이 있고 종종(꼭 가환적일 필요는 없지만)^[2]^[3]^[4] 가환적입니다.요소 집합의 축소는 Map Reduce와 같은 프로그래밍 모델의 필수적인 부분으로, 축소 연산자가 축소되기 전에 모든 요소에 적용(매핑)됩니다.다른 병렬 알고리즘에서는 보다 복잡한 문제를 해결하기 위해 감소 연산자를 주 연산으로 사용합니다.브로드캐스트에 많은 리덕션 연산자를 사용하여 모든 프로세서에 데이터를 배포할 수 있습니다.

이론.

축소 연산자는 최종 결과를 얻기 위해 사용할 수 있는 부분 결과를 계산함으로써 태스크를 다양한 부분 태스크로 분해하는 데 도움을 줄 수 있다.이를 통해 특정 직렬 작업을 병렬로 수행하고 해당 작업에 필요한 단계 수를 줄일 수 있습니다.축소 연산자는 부분 태스크의 결과를 변수의 개인 복사본에 저장한다.그런 다음 이러한 개인 복사본은 마지막에 공유 복사본으로 병합됩니다.

연산자는 다음과 같은 경우 감소 연산자입니다.

어레이를 단일 스칼라 ^[2]값으로 줄일 수 있습니다.
최종 결과는 ^[2]생성된 부분 태스크의 결과에서 얻을 수 있어야 합니다.

이러한 두 가지 요구 사항은 모든 배열 요소에 적용되는 교환 연산자 및 연관 연산자에 대해 충족됩니다.

이러한 요건을 충족하는 연산자에는 덧셈, 곱셈 및 논리 연산자(및 기타)가 있습니다.

감소 연산자 ${\$ { $displaystyle \oplus$ }는 $\oplus$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ V $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ { $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ ( $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ - 1 ) $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ , $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ v $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ ( $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ - 1 $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ m - $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ ) , $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ , $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ - 1 $=$ ( $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ p - 1 $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ - $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ 0 $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ - 1 - 1 ) = ( e p - 0 ) $V=\{v_{0}={\begin{pmatrix}e_{0}^{0}\\\vdots \\e_{0}^{m-1}\end{pmatrix}},v_{1}={\begin{pmatrix}e_{1}^{0}\\\vdots \\e_{1}^{m-1}\end{pmatrix}},\dots ,v_{p-1}={\begin{pmatrix}e_{p-1}^{0}\\\vdots \\e_{p-1}^{m-1}\end{pmatrix}}\}$ - 1 - 1 m - 1 ) $디스플레이$ 에 일정 시간 동안 적용할 수 있습니다. { \ { \ v $styledisplaystyledisplaystystyl$ }. $begin {pmatrix}e_{0}\\vdots$ \\ $e_{0}^{m-1}\end{pmatrix},v_{1}=begin {pmatrix}e_{1}^{0}\\vdots \\m-1}\$ pmatrix, $v_p-1}{p}{pm-1$ }{p}{patrix}{p}{patrix}{patrix}{p}{p}{paramatrix}{p}{p}{p}{p}{p}{p}{p}연산 $결과$ r {\ $displaystyle$ r $}$ 은 $r$ 요소 $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ ( $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ ⊕ e 0 $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ e $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ 0 $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ e 0 $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ m - $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ 1 $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ - $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ ) $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ ( $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ ( $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ p $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ - $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ - $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ - 1 ) $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ ( $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ ⨁ i - $r={\begin{pmatrix}e_{0}^{0}\oplus e_{1}^{0}\oplus \dots \oplus e_{p-1}^{0}\\\vdots \\e_{0}^{m-1}\oplus e_{1}^{m-1}\oplus \dots \oplus e_{p-1}^{m-1}\end{pmatrix}}={\begin{pmatrix}\bigoplus _{i=0}^{p-1}e_{i}^{0}\\\vdots \\\bigoplus _{i=0}^{p-1}e_{i}^{m-1}\end{pmatrix}}$ ) $in {pmatrix}e_{0}\oplus e_{1$ }^{ $0}\oplus \oplus e_{p-1}^{0}\vdots \\e_{0}^{m-1}\oplus e_{1}{m-1$ }\oplus $\oplus e_{p-1}^{p-1$ }\pm-1}\matrix $={pm$ }pm-1}pmatrix}\}pm-1}pmatrix\}pm={pm-1}pmatrix}\}pm-1}에서 지정합니다.계산 완료 후 모든 프로세서에서 r $\displaystyle$ r을 $r$ 사용할 수 있어야 하는 $경우$ 보통 Allreduce라고 합니다.최적 축소를 위한 순차 선형 시간 알고리즘은 연산자를 앞에서 뒤로 연속적으로 적용할 수 있으며, 항상 두 벡터를 모든 요소에 적용된 연산 결과로 대체하여 하나의 벡터가 적은 인스턴스를 만듭니다.r $\displaystyle$ r만 $r$ $남을$ 때까지 ( $(p-1)\cdot m$ - $(p-1)\cdot m$ ) $(p-1)\cdot m$ m \ $displaystyle (p-1)$ \ $cdot$ m $(p-1)\cdot m$ until $(p-1)\cdot m$ until until until until until until until ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( ( (순차 알고리즘은 선형 시간보다 더 나은 성능을 발휘할 수 없지만 병렬 알고리즘은 최적화할 수 있는 공간을 남겨둡니다.

예

어레이 $[2,3,5,1,7,6,8,4]$ [ $[2,3,5,1,7,6,8,4]$ , $[2,3,5,1,7,6,8,4]$ , $[2,3,5,1,7,6,8,4]$ 1, $[2,3,5,1,7,6,8,4]$ , $[2,3,5,1,7,6,8,4]$ , $[2,3,5,1,7,6,8,4]$ 4 $displaystyle [2,$ 3, 5, $1, 7$ , 7, 6, $8$ , 4 $]{$ displaystyle $}$ 이 있다고 가정합니다.이 어레이의 합계는 '+' 연산자를 사용하여 순차적으로 단일 합계로 계산됩니다.어레이의 선두로부터 합계를 개시하면, 다음과 같은 결과가 됩니다.

$(\displaystyle {\Bigg (\Bigg ( ) {\Big ( ) } , ( ( 2 + 3) + 5 ) + 1 big ) ) } + 7 { \ 6 gg bigg ) } + 8 { \ Bigg } + 4 = 36 }$

'+'는 가환 연산자이면서 연관 연산자이기 때문에 축소 연산자입니다.따라서 이 리덕션은 여러 코어를 사용하여 병렬로 실행할 수 있습니다.여기서 각 코어는 어레이의 서브셋의 합계를 계산하고 리덕션 연산자는 결과를 Marge합니다.바이너리 트리 리덕션을 사용하면 4개의 코어가 $(2+3)$ ( $2$ $3$ $(2+3)$ $(5+1)$ ( $(5+1)$ + $1 ),$ ( $(7+6)$ + $(7+6)$ $),$ $(8+4)$ ( $8$ $(8+4)$ + 4 ), (8 + 4 ), (2 + 3 $(2+3)$ ), (5 + 1 ), (5 + 1 $(5+1)$ $(7+6)$ (7 $+ 6$ $(7+6)$ ( $(8+4)$ + $(8+4)$ 를 계산할 수 $있습니다$ .다음으로 2개의 코어가 $(5+6)$ + $(5+6)$ $)({displaystyle ($ 5 $(5+6)$ + $6$ $(13+12)$ 및 $(5+6)$ ( $(13+12)$ $(13+12)$ $){displaystyle (13$ + $12$ 를 $\log _{2}8=3$ 계산할 수 있습니다.마지막으로 단일 코어가 $(11+25)=36$ ( $(11+25)=36$ $(11+25)=36$ $=$ + $25$ )= $36$ 입니다.따라서 총 4개의 코어를 $\log _{2}8=3$ 하여 로그 2 $\log _{2}8=3$ $\log _{2}8=3$ $\log _{2}8=3$ 3 $display$ style \3 \ $log =3$ \log } $스텝$ 의 합계를 계산할 수 있습니다. $시리얼$ 버전에는 $laystyle$ 7 $}$ 단계가 $7$ 필요합니다. $이$ 병렬 바이너리 트리 기술은 ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ ( ( ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ + ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ ) + ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ ( ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ + ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ 1 ) + ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ ( ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ + ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ ) ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ + ( ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ + ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ ) ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ { $display$ style ( } , ( $2$ + 3 $)$ + ( $5$ + $1$ ) } + { \ $big$ ( } , ( $7$ + 6 ) + ( $8$ + 4 ) ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ } + { \ big ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ } + { \ big ${\big (}\,(2+3)+(5+1)\,{\big )}+{\big (}\,(7+6)+(8+4)\,{\big )}$ } 를 계산합니다.물론 결과는 동일합니다.여러 프로세서에 작업을 분배하는 마스터 코어가 있는 경우 결과물이 어떤 순서로 마스터 프로세서에 반환될 수 있으므로 리덕션 오퍼레이터의 정류성이 중요합니다.교환성의 속성은 결과가 동일함을 보증합니다.

샘플 없음

행렬 곱셈은 가환 연산이 아니므로 축소 연산자가 아닙니다.프로세스가 임의의 순서로 행렬 곱셈 결과를 마스터 프로세스로 반환할 수 있는 경우 결과가 잘못된 경우 마스터가 계산한 최종 결과는 올바르지 않을 수 있습니다.단, 행렬 곱셈은 연관성이 있으므로 이진 트리 감소 기술과 같이 올바른 순서가 적용되면 결과는 정확합니다.

알고리즘

이항 트리 알고리즘

병렬 알고리즘에 관해서는 처리장치 간의 공유 메모리를 가진 RAM의 확장으로서의 병렬 랜덤 액세스 머신과 통신 및 동기화를 고려한 벌크 동기 병렬 컴퓨터의 두 가지 주요 모델이 있다.두 모델 모두 시간 복잡성에 대해 서로 다른 영향을 미치므로 두 가지 알고리즘이 표시됩니다.

PRAM 알고리즘

이 알고리즘은 p $\displaystyle$ p가 $p$ 2의 거듭제곱인 입력을 $p$ 하는 광범위한 방법을 나타냅니다.브로드캐스트 ^[5]^[6]^[7]요소에는 종종 역순서가 사용됩니다.

p = 8, m = 1인 알고리즘 시각화 및 감소 연산자로서의 덧셈

위해서

k\gets 0

로.

\displaystyle \lceil \log _{2}p\rceil -1}

하다

위해서

i\gets 0

로.

(\displaystyle p-1)

병행하여 하다

한다면

p_{i}

그럼 액티브하게 됩니다.

조금 있으면

k

의

i

그럼 설정됩니다.

세트

p_{i}

활동하지 않다

그렇지 않으면

i+2^{k}<p

x_{i}\gets x_{i}\oplus ^{\star}x_{i+2^{k}}}

벡터의 바이너리 연산자는 요소별로 정의됩니다 $e$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ 0 ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ i ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ - ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ) ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ⊕ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ （ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ 0 ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ - ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ( ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ 0 ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ j 0 ) e ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ m - ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ e ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ - ${\begin{pmatrix}e_{i}^{0}\\\vdots \\e_{i}^{m-1}\end{pmatrix}}\oplus ^{\star }{\begin{pmatrix}e_{j}^{0}\\\vdots \\e_{j}^{m-1}\end{pmatrix}}={\begin{pmatrix}e_{i}^{0}\oplus e_{j}^{0}\\\vdots \\e_{i}^{m-1}\oplus e_{j}^{m-1}\end{pmatrix}}$ ) ${ display$ { pmatrix } e { $i$ }^ $0$ \ vots - 1 } { i } { i } } } m \ $dots$ } ^{i { i } { i } } } } m m m m m m 。 $^{\star}{\$ vdots\{ $pmatrix}e_{0}\\vdots\\e_{j}^{m-1}\end{pmatrix}=svdots\{i}^{0}\oplus e_{j}^{0}\\vdots\m-1$ }^{ $m-1}\o}^0$ }\o}{{\ $o}^$ 0}{{{{\o}}}{{{mplus}}}}}}{{{{{{\o $}}}}}}}}}$ 또한 알고리즘은 모든 $(\displaystyle$ i $)$ $p$ p(\ $displaystyle$ p $)$ 에 $p$ 대해 $x_{i}=v_{i}$ $=$ $x_{i}=v_{i}$ (\ $displaystyle x_{i$ }= $v_{$ i $x_{i}=v_{i}$ })의 $x_{i}=v_{i}$ 를 2의 거듭제곱으로 가정하고 $p_{0},p_{1},\dots p_{n-1}$ $p_{0},p_{1},\dots p_{n-1}$ $p_{0},p_{1},\dots p_{n-1}$ $(\$ }, $p_{1}, p_n-1$ 을 사용합니다.단위가 비활성화되어 추가 계산에 기여하지 않습니다.그림에서는 연산자로 덧셈을 사용한 알고리즘의 시각화를 보여 줍니다.수직선은 해당 라인에 있는 요소의 계산이 이루어지는 처리 단위를 나타냅니다.8개의 입력 요소는 하단에 있으며 각 애니메이션 스텝은 알고리즘 실행 시 하나의 병렬 스텝에 해당합니다.- 그렇죠 - 기초 x_{i)에 표시된 연산자를 평가하며, 표시식 x{i(J)를 표시합니다. p_{j}}이 $p_{j}$ (가) 현재 단계에서 비활성 프로세서가 됩니다 $.$ $x_{i}$ i $(\$ }) $x_{j}$ $x_{j}$ j(\ $displaystyle x_{j})$ 는 $x_{j}$ 입력 $집합$ X(\ $displaystyle$ x_{j})의 $X$ 요소는 아닙니다.필드는 덮어쓰기되어 이전에 평가된 식에 재사용됩니다.각 단계에서 추가적인 통신을 유발하지 않고 각 처리 장치의 역할을 조정하기 위해 0 $(\displaystyle$ 0 $)$ 부터 $0$ $p-1$ p - $p-1$ (\ $displaystyle p-1)$ 까지의 $p-1$ 수치로 처리 장치를 색인화하는 것을 사용한다.각 프로세서는 $(\displaystyle$ k)의 $k$ 최하위 비트를 보고 $k$ (\ $displaystyle$ k $)$ 의 비트가 설정되어 있지 않은 인덱스를 가진 요소에 대해 비활성화 여부를 결정합니다.알고리즘의 기본 통신 패턴은 이항 트리이므로 알고리즘의 이름이 됩니다.

p $(\$ 만이 마지막에 $p_{0}$ 결과를 보유하기 때문에 루트 프로세서입니다.Allreduce 연산의 경우 결과를 배포해야 합니다. $p_{0}$ 은 p $p_{0}$ 0 {\ $display$ style $p_{0$ 에서 브로드캐스트를 추가하는 것으로 실행할 수 있습니다. $또한$ 프로세서 수 $p$ 는2의 거듭제곱으로 제한됩니다.이것은 프로세서의 수를 2의 다음 거듭제곱으로 채우는 것으로 해결할 수 있습니다.또한 이 사용 사례에 ^[8]더 적합한 알고리즘도 있습니다.

런타임 분석

메인 루프가 $\lceil \log _{2}p\rceil$ $\lceil \log _{2}p\rceil$ 2 $\lceil \log _{2}p\rceil$ p ${\$ p $\lceil \log _{2}p\rceil$ { displaystyle \ $lceil \log$ _ ${2}p\rceil }$ 회 $\lceil \log _{2}p\rceil$ 실행되며, 병렬처리된 부품에 필요한 시간은 O ${\mathcal {O}}(m)$ ( ${\mathcal {O}}(m)$ ) \ $displaystyle$ \ $mathcal {O}$ ( $m$ )로 ${\mathcal {O}}(m)$ 2개의 벡터가 결합되거나 비활성화됩니다.따라서 PRAM의 $T(p,m)$ T $T(p,m)$ $)$ {{ $displaystyle$ T $(p, m)}$ 는 $T(p,m)$ $T(p,m)={\mathcal {O}}(\log(p)\cdot m)$ ) $T(p,m)={\mathcal {O}}(\log(p)\cdot m)$ O $T(p,m)={\mathcal {O}}(\log(p)\cdot m)$ ） $T(p,m)={\mathcal {O}}(\log(p)\cdot m)$ （ $T(p,m)={\mathcal {O}}(\log(p)\cdot m)$ $T(p,m)={\mathcal {O}}(\log(p)\cdot m)$ $)$ $T(p,m)={\mathcal {O}}(\log(p)\cdot m)$ 、 { $displaystyle$ T $(p,$ m $) = log(p)\cdot$ m $T(p,m)={\mathcal {O}}(\log(p)\cdot m)$ 입니다.읽기 및 쓰기 충돌 처리 전략은 배타적 읽기 및 독점 쓰기(EREW)와 같이 제한적으로 선택할 수 있습니다.알고리즘의 $S(p,m)$ $S(p,m)$ $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ ( $S(p,m)$ , m ){ $displaystyle S$ ( $S(p,m)$ p $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ , $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ ) $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ ( $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ e $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ T $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ ( $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ , $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ m ) $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ O ( $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ log $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ ( $S(p,m)\in {\mathcal {O}}\left({\frac {T_{seq}}{T(p,m)}}\right)={\mathcal {O}}\left({\frac {p}{\log(p)}}\right)$ p ) \ $displaystyle S$ ( $p$ , m ) \ $in$ { $mathcal$ { O $}$ \ $left$ （ \ $frAC$ ）。 $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ ( $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ ( $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ , $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ ) $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ ( $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ log $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ ( $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ ) $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ \ $display$ E $( p$ , $m$ ) \ $in$ \ $mathcal$ { $O$ } \ left ( { \ $frac$ { $S ( p$ , m ) } { $p$ } \ $right$ ) = $scal$ { $O$ } \ $left$ ( { \ $frac$ { S ( p , mathcal { mathcal { m} { $mathcal$ { p } } } \ $log$ } \ light } \ light $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ } } $E(p,m)\in {\mathcal {O}}\left({\frac {S(p,m)}{p}}\right)={\mathcal {O}}\left({\frac {1}{\log(p)}}\right)$ } \ $light$ )각 스텝 후에 액티브한 처리 유닛의 절반이 비활성화되기 때문에 효율이 저하됩니다. ${\frac {p}{2^{i}}}$ ${\frac {p}{2^{i}}}$ i (\ $displaystyle {p}$ { $2^{i}})$ 유닛은 ${\frac {p}{2^{i}}}$ $스텝$ i (\ $displaystyle$ i $i$ 에서 액티브하게 됩니다.

분산 메모리 알고리즘

PRAM 알고리즘과는 달리 분산 메모리 모델에서는 메모리가 처리 장치 간에 공유되지 않고 처리 장치 간에 데이터를 명시적으로 교환해야 한다.따라서 다음 알고리즘에서 볼 수 있듯이 데이터를 장치 간에 명시적으로 교환해야 합니다.

위해서

k\gets 0

로.

\displaystyle \lceil \log _{2}p\rceil -1}

하다

위해서

i\gets 0

로.

(\displaystyle p-1)

병행하여 하다

한다면

p_{i}

그럼 액티브하게 됩니다.

조금 있으면

k

의

i

그럼 설정됩니다.

보내세요

x_{i}

로.

p_{i-2^{k}}

세트

p_{k}

활동하지 않다

그렇지 않으면

i+2^{k}<p

받다

x_{i+2^{k}}}

x_{i}\gets x_{i}\oplus ^{\star}x_{i+2^{k}}}

분산 알고리즘과 PRAM 버전의 유일한 차이점은 명시적 통신 프리미티브를 포함한다는 것입니다. 작동 원리는 동일합니다.

런타임 분석

유닛간의 통신은 약간의 오버헤드로 이어집니다.알고리즘의 간단한 분석에서는 $T_{start}$ 모델을 사용하여 $T_{start}$ 을 개시하는 데 필요한 $T_{start}$ (\ $style$ ${start})$ 과 $T_{start}$ 바이트를 송신하는 데 $T_{byte}$ 한 $시간$ (\ $style T_{$ byte $})$ 이 포함되어 있습니다.그 후 실행시간은 $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ ( ( $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ + $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ T $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ g ( $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ ) \ $displaystyle$ \ $Theta$ ( ( ( $T$ _ { $start$ ) + $n$ \ $cdot T _$ { byte ) \ $cdot$ log ( $p$ ) $\Theta ((T_{start}+n\cdot T_{byte})\cdot log(p))$ 、 $m$ \ $displaystyle$ ）。

파이프라인 알고리즘

p = 5, m = 4 및 감소 연산자로 추가되는 파이프라인의 가시화.

분산 메모리 모델의 경우 파이프라인 통신을 사용하는 것이 좋습니다. $T_{byte}$ T b $T_{byte}$ e \ $display style T_$ { $T_{byte}$ byte $T_{byte}$ }에 $T_{start}$ T $T_{start}$ $T_{start}$ $T_{start}$ \ $display$ style T_ { start $T_{start}$ } 이 $T_{start}$ 작은 $T_{start}$ 입니다.보통 선형 파이프라인은 데이터나 태스크를 작게 분할하여 단계적으로 처리합니다.이항 트리 알고리즘과 달리 파이프라인 알고리즘은 벡터가 분리할 수 없지만 단일 요소에 대해 ^[9]연산자를 평가할 수 있다는 사실을 사용합니다.

위해서

k\gets 0

로.

p+m-3

하다

위해서

i\gets 0

로.

(\displaystyle p-1)

병행하여 하다

한다면

\displaystyle i\leq k <i+m\land i\neq p-1>

보내세요

x_{i}^{k-i}

로.

p_{i+1}

한다면

i-1\leq k<i-1+m\land i\neq 0

받다

x_{i-1}^{k+i-1}

부터

p_{i-1}

x_{i}^{k+i-1}\gets x_{i}^k+i-1}\oplus x_{i-1}^k+i-1

알고리즘이 동작하려면 , 송신 조작과 수신 조작을 동시에 실행할 필요가 있습니다.결과 벡터는 마지막에 $p_{p-1}$ - 1 $({$ 에 $p_{p-1}$ $p_{p-1}$ 됩니다.연관된 애니메이션은 크기가 4인 벡터 및 5개의 처리 장치에서의 알고리즘 실행을 보여줍니다.애니메이션의 두 단계는 하나의 병렬 실행 단계를 시각화합니다.

런타임 분석

병렬 실행 단계 수는 p $p+m-2$ + $p+m-2$ - $({displaystyle$ p $+m-2$ 입니다. 마지막 처리 장치가 첫 번째 요소를 수신할 때까지 $p-1$ p - $p-1$ ({ $displaystyle p-1})$ 단계를 $p-1$ $p-1$ 모든 요소를 수신할 때까지 m $m-1$ - $m-1$ ({ $displaystyle m-1})$ $m-1$ 를 $m-1$ 거칩니다.따라서 BSP 모델의 $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ 은 T $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ ( $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ , $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ , $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ ) $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ ( $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ s $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ + $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ m $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ T $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ y $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ ) $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ ( p $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ + $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ - 2) $T(n,p,m)=\left(T_{start}+{\frac {n}{m}}\cdot T_{byte}\right)(p+m-2)$ ( $display style$ T ( $n$ , $p$ , m ) = \ $left$ ( $T_$ { $start$ } + { \ $frac$ { $n$ } { $m$ } \ $cdot$ _ $t e ）$ 。

m{\ $displaystyle$ m $}$ 은 $m$ $m$ 이지만 벡터의 요소를 논리적으로 그룹화하여m {\ $display$ m $m$ 을 줄일 수 있습니다. 예를 들어, 크기가 4인 벡터는 항상 함께 전송되고 계산되는 첫 번째 두 개의 요소와 마지막 두 개의 요소로 나누어 처리할 수 있습니다.이 경우, 각 스텝의 볼륨은 2배로 송신되지만, 스텝의 수는 약 반감하고 있습니다. $즉$ , 파라미터 m ${displaystyle$ m $}$ 은 $m$ 절반으로 줄었지만 총 바이트 $크기$ n ${displaystyle$ n $}$ 은 $n$ 그대로입니다. $T(p)$ 접근법의 런타임 T $T(p)$ $T(p)$ $){displaystyle$ T $(p)}$ 는 $T(p)$ m $({displaystyle$ m $m$ 의 값에 의존합니다.이 값은 $T_{start}$ $T_{start}$ $T_{start}$ {\ $displaystyle T_{start}$ $T_{byte}$ $T_{byte}$ b $T_{byte}$ t $T_{byte}$ \ $displaystyle T_{byte}$ 가 $T_{byte}$ 알려진 $T_{start}$ 최적화할 수 있습니다. $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ 값은 $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ n $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ ( $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ - $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ ) $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ T $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ y $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ s $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ t { $displaystyle$ m $= secrt$ { $frac { n$ \ $cdot$ ( $m={\sqrt {\frac {n\cdot (p-2)\cdot T_{byte}}{T_{start}}}}$ p - 2 )\ $cdot T_$ { $byte$ } { $T_{start$ 이렇게 하면 원래 m을 분할하는 m $(\displaystyle$ m $)$ 이 $m$ 작아진다고 가정합니다.

적용들

감소는 메시지 전달 인터페이스에서 구현되는 주요 집합 작업 중 하나로, 사용된 알고리즘의 성능이 중요하며 다양한 사용 ^[10]사례에 대해 지속적으로 평가됩니다.연산자를 다음에 대한 매개 변수로 사용할 수 있습니다.MPI_Reduce그리고.MPI_Allreduce1개의 (루트) 처리 유닛 또는 모든 처리 유닛에서 결과를 사용할 수 있는 차이입니다.MapReduce는 ^[11]^[12]대용량 클러스터에서도 빅데이터 세트를 처리하기 위해 효율적인 절감 알고리즘에 크게 의존하고 있습니다.

일부 병렬 정렬 알고리즘은 매우 큰 데이터 ^[13]세트를 처리하기 위해 축소를 사용합니다.

「」를 참조해 주세요.

접기(고차 기능)

레퍼런스

^ "Reduction Clause". www.dartmouth.edu. Dartmouth College. 23 March 2009. Retrieved 26 September 2016.
^ ^a ^b ^c 솔린
^ 찬드라 페이지 59
^ Cole, Murray (2004). "Bringing skeletons out of the closet: a pragmatic manifesto for skeletal parallel programming" (PDF). Parallel Computing. 30 (3): 393. doi:10.1016/j.parco.2003.12.002. hdl:20.500.11820/8eb79d42-de83-4cfb-9faa-30d9ac3b3839.
^ Bar-Noy, Amotz; Kipnis, Shlomo (1994). "Broadcasting multiple messages in simultaneous send/receive systems". Discrete Applied Mathematics. 55 (2): 95–105. doi:10.1016/0166-218x(94)90001-9.
^ Santos, Eunice E. (2002). "Optimal and Efficient Algorithms for Summing and Prefix Summing on Parallel Machines". Journal of Parallel and Distributed Computing. 62 (4): 517–543. doi:10.1006/jpdc.2000.1698.
^ Slater, P.; Cockayne, E.; Hedetniemi, S. (1981-11-01). "Information Dissemination in Trees". SIAM Journal on Computing. 10 (4): 692–701. doi:10.1137/0210052. ISSN 0097-5397.
^ Rabenseifner, Rolf; Träff, Jesper Larsson (2004-09-19). More Efficient Reduction Algorithms for Non-Power-of-Two Number of Processors in Message-Passing Parallel Systems. Recent Advances in Parallel Virtual Machine and Message Passing Interface. Lecture Notes in Computer Science. Vol. 3241. Springer, Berlin, Heidelberg. pp. 36–46. doi:10.1007/978-3-540-30218-6_13. ISBN 9783540231639.
^ Bar-Noy, A.; Kipnis, S. (1994-09-01). "Designing broadcasting algorithms in the postal model for message-passing systems". Mathematical Systems Theory. 27 (5): 431–452. CiteSeerX 10.1.1.54.2543. doi:10.1007/BF01184933. ISSN 0025-5661. S2CID 42798826.
^ Pješivac-Grbović, Jelena; Angskun, Thara; Bosilca, George; Fagg, Graham E.; Gabriel, Edgar; Dongarra, Jack J. (2007-06-01). "Performance analysis of MPI collective operations". Cluster Computing. 10 (2): 127–143. doi:10.1007/s10586-007-0012-0. ISSN 1386-7857. S2CID 2142998.
^ Lämmel, Ralf (2008). "Google's MapReduce programming model — Revisited". Science of Computer Programming. 70 (1): 1–30. doi:10.1016/j.scico.2007.07.001.
^ Senger, Hermes; Gil-Costa, Veronica; Arantes, Luciana; Marcondes, Cesar A. C.; Marín, Mauricio; Sato, Liria M.; da Silva, Fabrício A.B. (2016-06-10). "BSP cost and scalability analysis for MapReduce operations". Concurrency and Computation: Practice and Experience. 28 (8): 2503–2527. doi:10.1002/cpe.3628. hdl:10533/147670. ISSN 1532-0634. S2CID 33645927.
^ Axtmann, Michael; Bingmann, Timo; Sanders, Peter; Schulz, Christian (2014-10-24). "Practical Massively Parallel Sorting". arXiv:1410.6754 [cs.DS].

책들

Chandra, Rohit (2001). Parallel Programming in OpenMP. Morgan Kaufmann. pp. 59–77. ISBN 1558606718.
Solihin, Yan (2016). Fundamentals of Parallel Multicore Architecture. CRC Press. p. 75. ISBN 978-1-4822-1118-4.

[1] "Reduction Clause". www.dartmouth.edu. Dartmouth College. 23 March 2009. Retrieved 26 September 2016.

[:1-2] 솔린

[:0-3] 찬드라 페이지 59

[4] Cole, Murray (2004). "Bringing skeletons out of the closet: a pragmatic manifesto for skeletal parallel programming" (PDF). Parallel Computing. 30 (3): 393. doi:10.1016/j.parco.2003.12.002. hdl:20.500.11820/8eb79d42-de83-4cfb-9faa-30d9ac3b3839.

[5] Bar-Noy, Amotz; Kipnis, Shlomo (1994). "Broadcasting multiple messages in simultaneous send/receive systems". Discrete Applied Mathematics. 55 (2): 95–105. doi:10.1016/0166-218x(94)90001-9.

[6] Santos, Eunice E. (2002). "Optimal and Efficient Algorithms for Summing and Prefix Summing on Parallel Machines". Journal of Parallel and Distributed Computing. 62 (4): 517–543. doi:10.1006/jpdc.2000.1698.

[7] Slater, P.; Cockayne, E.; Hedetniemi, S. (1981-11-01). "Information Dissemination in Trees". SIAM Journal on Computing. 10 (4): 692–701. doi:10.1137/0210052. ISSN 0097-5397.

[8] Rabenseifner, Rolf; Träff, Jesper Larsson (2004-09-19). More Efficient Reduction Algorithms for Non-Power-of-Two Number of Processors in Message-Passing Parallel Systems. Recent Advances in Parallel Virtual Machine and Message Passing Interface. Lecture Notes in Computer Science. Vol. 3241. Springer, Berlin, Heidelberg. pp. 36–46. doi:10.1007/978-3-540-30218-6_13. ISBN 9783540231639.

[9] Bar-Noy, A.; Kipnis, S. (1994-09-01). "Designing broadcasting algorithms in the postal model for message-passing systems". Mathematical Systems Theory. 27 (5): 431–452. CiteSeerX 10.1.1.54.2543. doi:10.1007/BF01184933. ISSN 0025-5661. S2CID 42798826.

[10] Pješivac-Grbović, Jelena; Angskun, Thara; Bosilca, George; Fagg, Graham E.; Gabriel, Edgar; Dongarra, Jack J. (2007-06-01). "Performance analysis of MPI collective operations". Cluster Computing. 10 (2): 127–143. doi:10.1007/s10586-007-0012-0. ISSN 1386-7857. S2CID 2142998.

[11] Lämmel, Ralf (2008). "Google's MapReduce programming model — Revisited". Science of Computer Programming. 70 (1): 1–30. doi:10.1016/j.scico.2007.07.001.

[12] Senger, Hermes; Gil-Costa, Veronica; Arantes, Luciana; Marcondes, Cesar A. C.; Marín, Mauricio; Sato, Liria M.; da Silva, Fabrício A.B. (2016-06-10). "BSP cost and scalability analysis for MapReduce operations". Concurrency and Computation: Practice and Experience. 28 (8): 2503–2527. doi:10.1002/cpe.3628. hdl:10533/147670. ISSN 1532-0634. S2CID 33645927.

[13] Axtmann, Michael; Bingmann, Timo; Sanders, Peter; Schulz, Christian (2014-10-24). "Practical Massively Parallel Sorting". arXiv:1410.6754 [cs.DS].

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

Search

감액연산자

네임스페이스

더

목차

이론.